跳到正文
10月24日周六
  1. IT之家73

    腾讯 WorkBuddy 接入 Kimi-K3.1-Pro 模型

    腾讯 WorkBuddy 已接入 Kimi-K3.1-Pro 模型,支持 100 万上下文,输出速度提升 2-3 倍,目前仅对企业旗舰版和个人订阅用户开放。Kimi-K3.1-Pro 是 3 万亿级参数模型,在代码、3D 创作、金融研究和长程 Agent 能力上表现优异,在多项基准测试中达到或接近最强闭源模型水平。

  2. IT之家65

    亚马逊CEO贾西:AI推理成本需降至十分之一才能普及企业软件

    亚马逊CEO安迪·贾西认为,要让AI广泛应用于企业软件,推理成本需要降至目前的约十分之一。亚马逊今年计划投入2,200亿美元资本开支,但2026-2028年的算力供应已基本售罄。亚马逊自研Trainium芯片较同类处理器性价比高出30%至40%,已获得超过2,250亿美元的未来收入承诺。

  3. The Decoder76

    月之暗面发布 Kimi K3.1 Pro 模型,性能接近 Claude Opus 5.5

    月之暗面发布了 Kimi K3.1 Pro 模型,在 Artificial Analysis Intelligence Index 上获得 55 分,排名第四,仅落后于 Claude Opus 5.5(58分)、Claude Sonnet 5.5(56分)和 Muse Wonder Full(56分)。

    推荐理由:Moonshot AI 的 Kimi K3.1 Pro 在推理能力上逼近顶级闭源模型,开源版若如期发布将大幅缩小性能差距。

  4. AWS Machine Learning Blog75

    AWS SageMaker AI多轮强化学习实践指南

    AWS发布多轮强化学习(MTRL)教程,指导用户如何在SageMaker AI上训练AgentCore智能体,使其能够处理需要序列决策的任务。教程以Wordle游戏为例,展示了从环境部署、数据准备到模型训练和评估的完整流程,使用GPT-OSS-20B模型将解决率从61%提升到84%,训练成本约339美元。

    推荐理由:多轮强化学习让模型从单次回答转向序列决策,AWS教程展示了如何用SageMaker训练AgentCore智能体。

10月23日周五
  1. Latent Space85

    AI数学能力突破:人类与机器解题方式的根本差异

    OpenAI和Anthropic近期在数学难题上取得突破,包括单位距离猜想反例、CDC问题证明、纳维-斯托克斯方程证明等。作者分析了AI与人类在数学问题解决上的根本差异:人类采用广度优先搜索,受限于时间和心理成本;AI则采用深度优先搜索,通过大量并行计算和自动验证器快速探索各种可能性。AI的优势在于能长时间探索看似无望的方向,而人类专家则受限于工作记忆、士气和职业风险。

    推荐理由:AI数学突破揭示人类与机器解题的本质差异:深度优先搜索与并行计算让AI能探索人类不敢涉足的'危险水域'。

  2. 雷锋网81

    月之暗面发布Kimi K3.1,成本仅为GPT-6 Astra的1/14

    月之暗面即将发布Kimi K3.1模型,在3D图形生成、视觉推理和前端代码领域表现突出。该模型在开源3D图形库Three.js上表现出色,成本仅为Kimi K3的70%,Token效率全面升级。实测显示,Kimi K3.1能在15分钟内交付工业级可交互3D资产,成本仅为GPT-6 Astra的约1/14,在视觉领域展现出不输于美国顶尖闭源模型的实力。

    推荐理由:15分钟交付工业级3D资产,成本仅为GPT-6 Astra的1/14,国产模型在视觉领域实现突破性进展。

  3. The Decoder76

    Anthropic 的 Claude 现可自动编写代码并证明其安全性

    Anthropic 使用 Claude 数学证明现有代码的正确性,该模型在几周内生成了约1.8亿行数学证明代码,分析了来自123个开源库的测试程序,发现了数百个传统测试可能遗漏的bug。尽管证明仅在特定条件下有效,且计算成本高昂,但 Anthropic 认为这将改变软件开发流程,并计划将此技术应用于关键基础设施。

    推荐理由:Claude 自动生成数学证明验证代码安全,将传统需20人年的工作压缩至数周,但严格限制条件仍存挑战。

  4. HuggingFace Daily Papers35

    扩散语言模型中学习解掩码策略的对照研究

    研究通过对比监督策略发现,扩散语言模型中仅匹配最终输出的标签在低NFE时过于宽松,隐藏状态需与置信度互补才能提升效率。856K参数的策略在LLaDA-8B-Instruct上实现最佳准确率-NFE平衡,GSM8K吞吐量最高,且可迁移至Dream-7B-Instruct。约10%的NFE减少即可抵消策略开销。

  5. HuggingFace Daily Papers35

    推理模型中 wait 标记的来源追踪研究

    研究发现推理模型中的 wait 标记并非强化学习(RL)原创,而是继承自训练数据。在缺乏该标记的模型基座上,RL 能显著提升 MATH-500 准确率但不会引入 wait;而监督微调会将该标记植入模型。标记频率变化与 RL 诱导的推理能力无直接关联。

  6. HuggingFace Daily Papers65

    SCOPE:将自然语言策略编译为神经符号谓词程序

    SCOPE是一种新方法,将自然语言策略编译为可执行程序,由小型模型、确定性提取器和组合代码组成。该方法在真实世界策略任务基准测试中,实现了跨任务和模型的最平均准确率,且预测更稳定、可解释,并能部署在低成本模型上达到前沿推理模型的准确率水平。

    推荐理由:SCOPE将自然语言策略编译为神经符号谓词程序,解决了LLM代理策略执行中的准确性与效率矛盾。

  7. 雷锋网75

    蚂蚁数科发布决策模型 LingDT-Decision-1.0

    蚂蚁数科发布决策模型 LingDT-Decision-1.0,提供4B和27B两个版本,在23项开源评测基准中综合评分超过Microsoft-Decision-1和Jev 1.13等模型。该模型专为快速决策打造,Token消耗降低超90%,响应时效提升10倍,首创支持原生多选与按序决策能力,已在蚂蚁数科智能客服、安全风控、金融应用等场景测试。

  8. TechCrunch · AI73

    OpenAI广泛推出决策模型API,决策模型竞争升温

    OpenAI首次广泛开放其Decisions API模型,进入快速、低成本智能市场。该模型基于ChatGPT Luna重新配置,将推理速度从1-3秒缩短至100-180毫秒,已在Box、Datadog等公司测试中成功替代LLM,将响应时间从1.4秒降至0.13秒。OpenAI还添加了新的语音和视觉模态,并针对全球不同地区优化了推理资源。

  9. HuggingFace Daily Papers35

    Looped Uniform Diffusion Language Models

    研究发现,在 Uniform Diffusion Language Models(UDLMs)中应用选择性 looping 技术,可显著提升训练效率:仅需 0.5 万亿 token 训练量即可达到原模型 1 万亿 token 的验证 NLL,训练 FLOPs 减少 2.8-3.3 倍;在相同 NFE 预算下,生成困惑度降低最高 9.8%。

10月22日周四
  1. 量子位76

    蚂蚁数科发布决策模型 LingDT-Decision-1.0

    蚂蚁数科发布决策模型 LingDT-Decision-1.0,提供4B和27B两个版本,在23项开源评测基准中综合评分超过Microsoft-Decision-1、Jev 1.13等热门决策模型。该模型专为快速决策打造,在处理结构化决策任务时准确率更高、响应更快、Token成本更低,首创支持原生多选与按序决策能力。

    推荐理由:原生多选与按序决策让决策模型更贴近企业真实业务流程,接下来看它如何在实际场景中替代传统大语言模型。

  2. HuggingFace Daily Papers65

    Evolving with Open Worlds: Towards Recursive Self-Improvement for Future Forecasting

    研究人员提出DeepEvolve系统,一种基于未来事件预测的可持续进化智能体系统,该系统通过与动态变化环境持续交互并内化经验实现自我改进。在FutureX排行榜上,该自我改进预测器连续三周排名第一,评分提升高达195%;在合成的评估中,它在四个基础大语言模型中排名前三,比最强基线高出最多10.7 Bradley-Terry分。

    推荐理由:通过未来事件预测构建可持续进化系统,在真实世界评估中连续三周排名第一,展示AI从静态模型向自我进化智能体的转变。

  3. HuggingFace Daily Papers45

    SpatialBrain: 空间智能从经验中成长

    SpatialBrain 框架通过保留空间推理决策经验,在五个基准测试中优于或持平同骨干模型的直接答案。该框架包含 3DFusionMemory 融合场景观测、Spatial Skill Library 提供可复用工具程序,以及 Spatial Cognition 关联任务条件与经验使用策略。

  4. HuggingFace Daily Papers65

    TraceForge: 用自己的思维进行知识蒸馏

    研究人员提出 TraceForge 方法,通过生成与目标模型风格一致的推理轨迹来解决前沿模型不提供详细推理过程的问题。该方法采用两阶段训练,在 HumanEval+ 上提升 3.7 分,在 MBPP+ 上提升 7.1 分。

    推荐理由:通过生成与目标模型风格一致的推理轨迹,TraceForge 在保持数据来源合规的同时提升了模型性能。

  5. arXiv · cs.RO75

    从推理到行动:前沿AI模型在LIBERO-10机器人操作任务上的基准测试

    研究人员提出了一个统一的闭环操作框架,用于评估前沿AI模型在LIBERO-10基准测试中的表现。测试包括GPT-6 Astra、GPT-6.1 Sol、GPT-6 Luna、Claude Opus 5、Claude Opus 5.5和Gemini-4 Argon六个模型,在三种推理努力水平下进行了1800次评估。

    推荐理由:前沿AI模型在机器人操作任务中成功率最高仅44%,推理能力转化为可靠物理动作仍是挑战。

  6. HuggingFace Daily Papers35

    VX-One: 实时边界分类的校准决策头研究

    VX-One 是一种小型多头网络(10万-1000万参数),输出校准门、封闭候选集选择和序数评分,在 UNSW-NB15 和 CIC-IDS2017 上检测性能优于校准 XGBoost,但多类归因落后。两阶段级联方案(Suricata + VX-One)对未知攻击召回率达97.8%,但校准性能随时间漂移下降。

  7. Hugging Face Blog85

    NVIDIA发布Kumo Relational:无需训练即可在关系数据库上进行预测的基础模型

    NVIDIA发布Kumo Relational,这是一种预训练的关系基础模型,可直接在企业数据库上进行预测,无需任务特定训练、特征工程或表格扁平化。该模型在41项任务中超越监督学习模型,在SAP SALT企业基准测试上比AutoGluon集成模型高出8%的平均倒数排名(MRR),可扩展至500B+行数据库的规模。

    推荐理由:无需训练即可直接在企业数据库上进行预测,Kumo Relational在41项任务中超越监督学习模型,标志着结构化数据基础模型的新阶段。

10月21日周三
  1. Latent Space85

    DeepSeek开源DeepInfer高性能推理框架

    DeepSeek开源了其生产级推理框架DeepInfer,支持高达155万亿tokens/天的集群吞吐量,在非高峰时段每卡每小时收入达38美元,约80%的推理利润率,81天可收回成本。该框架基于vLLM定制,添加了优化的KV缓存、预填充/解码分离和负载平衡等功能,支持NVIDIA SM100和华为Ascend 950平台。

    推荐理由:开放高性能推理框架DeepInfer将155T tokens/天的吞吐量转化为$22m日收入,开源与商业边界正在重构。

  2. 钛媒体76

    DeepSeek推理框架DeepInfer对等支持华为、英伟达芯片

    DeepSeek宣布开源自研推理框架DeepInfer,同时支持华为昇腾950系列NPU和英伟达SM100 GPU,二者处于对等构建选项地位。开发者可通过环境变量在两类硬件间切换,大幅降低国产芯片适配门槛,有望加速国产芯片替代进程。

    同一件事,精选收录的是《DeepSeek开源DeepInfer高性能推理框架》

  3. 量子位72

    是石科技发布TokenFleet集群调度框架,国产推理效率再提升

    是石科技发布TokenFleet分布式调度框架,通过请求路由、跨机房容量协同和混合负载治理,在GLM5.3测试中实现P95首Token延迟降低32.4%,达标输出吞吐提高约29.4%。该框架包含TokenPilot智能推理路由、FleetMind跨机房执行和SLOMax分类队列三项核心技术,旨在提高GPU集群的有效Token产出。

  4. The Decoder75

    Deepseek 开源 DeepInfer 推理引擎

    Deepseek 开源了其内部推理框架 DeepInfer,该框架基于 vLLM 构建,通过优化计算内核、多芯片分布式处理和更快的文本生成技术,使其 V4.1-Flash 模型能够快速规模化生成响应。公司还发布了 deepseek-recipe,用于复制官方 Deepseek API 的 token 处理方式,确保自托管设置行为一致。