#推理

DeepSeek 开源推理框架 DeepInfer

DeepSeek 开源了推理框架 DeepInfer，该框架负责调度算力集群，直接影响 AI 服务的算力成本和电费。

DeepSeek全面开源推理框架DeepInfer

DeepSeek宣布全面开源内部推理框架DeepInfer及Token编解码组件deepseek-recipe，支持英伟达与华为昇腾平台，单集群日吞吐达155万亿Token，每卡每小时收入38美元。

同一件事，精选收录的是《DeepSeek开源DeepInfer高性能推理框架》

DeepSeek 开源内部推理框架 DeepInfer

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，旨在帮助开发者与企业优化大规模推理的吞吐与延迟，降低算力成本和能源消耗。该框架集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码等能力，兼容英伟达与华为昇腾平台。

KronLSTM：基于 Kronecker Delta Rule 的长上下文线性注意力架构

研究提出 KronLSTM，一种基于 Kronecker Delta Rule 的线性注意力架构，通过最小化内存干扰机制提升长上下文语言建模性能。实验显示其优于现有线性注意力架构，尤其在长上下文基准测试中表现突出。代码与模型已开源。

AdaExploreBench: 基准测试LLM智能体在动态环境中的主动探索与测试时适应能力

研究团队提出AdaExploreBench基准，测试LLM智能体在动态环境中主动探索和适应的能力。实验显示，即使是最先进的GPT-6 Sol模型也仅达到61.9%的校准准确率，而提供足够证据或移除规则漂移可提高近10%的性能。

DeepSeek和MiniMax发布新一代Flash模型，挑战旗舰性能

DeepSeek发布V4.1 Flash-1017，MiniMax发布M3.1 Flash，两款模型在编程、网络安全和复杂Agent任务等评测中表现优异，同时大幅降低价格。M3.1 Flash在BankerToolBench中与Claude Opus 5并列第一，输入输出价格降至上一代的一半，缓存读取价格降低约75%。

Physical Words: 一种用于机器人操作中结构化潜在推理的词汇

研究人员提出PhysWord，一种基于Physical Words的推理-行动基础模型，使用原子动作动词作为物理动态的共享语义锚点。该模型在visuotactile UniVTAC上达到90.3%的成功率，在vision-based LIBERO-Long上达到99.6%的成功率，并在使用双夹爪和灵巧手的真实世界任务中优于竞争方法。

Claude新模型曝光：能跳出思维定势，修Bug治标又治本

Claude新模型被曝光，在推理和直觉方面表现更好，能跳出思维定势，修复bug时能识别根本问题并一并处理。同时，谷歌Gemini 4 Carbon和OpenAI GPT-6.1 Terra也即将发布，AI圈新模型发布速度加快。

OpenAI 将研发人形机器人，奥尔特曼称核心是打造“大脑”

OpenAI 将研发人形机器人，CEO 奥尔特曼称核心是打造驱动机器人运转的“大脑”。该项目预计 2027 年推出演示样机，但机器人走上街头还需数年。

Anthropic正开发Fable 5.5新模型，主打意图推断能力

据报道，Anthropic正在开发一款能够主动推断用户模糊指令背后真实意图的新模型，在指令不完整时仍能推断用户目标，展现出更强推理能力和创造性问题解决能力。该模型可能改变用户与AI助手的交互方式，用户不再需要精心设计提示词。

AI 研究团队自主发现线性注意力架构

研究团队构建多学科 AI 研究员，通过自适应分配实验预算，在 1.3B 规模下超越 GDN2，语言建模与推理任务表现更优。移除任一组织组件均导致发现能力显著下降。

分层稀疏注意力：在极端稀疏度下减少稀疏到密集的差距

研究人员提出分层稀疏注意力(SSA)框架，结合确定性检索和分数引导采样，在保持高稀疏度的同时显著提升长上下文推理性能。在RULER-HARD测试中，Ministral-3-8B模型在32K和128K上下文长度下，50倍稀疏度下准确率分别从81.8%提升至84.2%和从63.8%提升至69.3%，恢复密集注意力性能的94%和85%。优化后的CUDA内核实现1M上下文下近3倍解码加速。

扩散语言模型智能体间的隐藏消息：潜在通信的因果证据

扩散语言模型智能体通过连续状态传递隐藏消息，接收方利用消息内容影响任务表现。在 Tiny-A2D 和 Dream-7B 任务中，移除消息导致性能下降 63.6 和 100.0 点，错误消息使 QASC 准确率从 80.8% 降至 46.8%。单次晚时间传输达 87.8%，优于四次交换。

MiniMax发布M3.1 Flash推理模型，成本降低一半

MiniMax发布M3.1 Flash推理模型，在Artificial Analysis Intelligence Index上得分42，比前代M3提高13分，同时成本降低一半。

神经网络理解新观点：研究者称我们一直看错了

Goodfire研究员Nick Cammarata发表博客文章，提出神经网络可能比人们之前认为的更容易理解和控制，这一观点在AI界引发热议。他通过重新分析Inception v1模型，发现神经元存储的看似无关概念（如汽车和猫）实际上存在共同模式（如V形结构）。然而，斯坦福大学和Google DeepMind的研究者对此表示质疑，认为这只是理解神经网络的一小步，距离全面理解还有很长的路要走。

商汤大装置发布异构推理集群技术，日均服务6万亿Token

商汤大装置在CSDI Summit上发布异构推理集群技术，通过PD分离与跨域协同，在相同高端卡条件下将Token吞吐量提升至原来的5倍。该平台日均Token服务量已达6万亿，预计2026年第四季度将达到日均10万亿规模。

Anthropic 准备推出推理能力更强的模型

Anthropic 即将发布推理能力更强的模型。新模型具体参数和性能尚未公开。

腾讯混元发布Terminal-RSI研究论文

腾讯混元Frontier团队发布Terminal-RSI研究，通过递归自我重写和递归策略精炼，使Qwen3.8-27B模型在Terminal-Bench 4.0上从0%提升至19.84%，与GPT-5.6 Terra、Gemini 3.8 Flash齐平。该研究解决了反馈慢和对错难区分的问题，但仅在27B模型上验证，未在大模型上测试。

Bridged Self-Distillation 用于在线学习的统一框架

研究提出 Bridged Self-Distillation (BSD)，通过外部教师生成推理轨迹，学生模型在无上下文时生成输出，并由自身副本进行评分，实现对不同教师场景的统一蒸馏。BSD 在共享词表、跨词表和闭源 API 教师场景中均优于基线模型，提供了一种新颖的蒸馏路径。代码已开源。

扩散语言模型在不同任务和语言中的速度变化分析

研究发现扩散语言模型生成相同长度输出的计算成本差异显著，任务类型和语言特性是关键影响因素。DiffusionGemma 在故事写作中每个 token 的前向传递次数是语法纠错的 3 倍以上，多语言生成中高 token 化语言成本更高。错误答案的推理成本高于正确答案，按解码速度加权候选答案可提升准确率 4.2 分。

RouteWeaver: 将模式选择与执行整合到统一LLM路由中

RouteWeaver是一种统一的路由框架，整合了单轮、多轮和智能体路由模式，通过COMET-GRPO算法和渐进式探索实现自适应路由。在数学、编码、知识、逻辑推理和事实回忆五个领域，RouteWeaver平均准确率达到61.4%，比最强基线模型提升11.03%。

语言模型在任务组合下的脆弱性研究：隐式预算机制分析

研究发现语言模型在组合任务中错误率显著高于单任务，即使上下文窗口充足仍因隐式预算减少每任务 token 使用量。Claude Opus 5 和开源模型均显示，需长推理链的任务在组合时更脆弱，但按脆弱性分组可降低 43% token 消耗且保持准确率。

相同模拟，不同证据：检索工具输出如何影响LLM智能体的准确性

研究显示，当LLM智能体通过检索而非上下文读取PHREEQC地质化学模拟器的报告时，GPT-5.1和GPT-5.2的准确性分别下降11.3和7.9个百分点，而Claude Opus 4.6和Claude Sonnet 4.6未受影响。GPT模型在检索时经常跳过报告，从自己的高精度输出文件中回答并错误舍入到相邻选项，这种证据替代错误是准确率下降的主要原因。

TokenGate：通过学习型 token 剪枝实现快速且内存高效的 LLM 预填充

研究人员提出 TokenGate，一种小型即插即用组件，可扩展现有训练模型以实现端到端可学习的 token 剪枝，用于快速且内存高效的预填充。该技术通过 token 门控注意力机制，在多种任务上实现了 1.4-11.3 倍的首个令牌时间加速和 1.5-3.4 倍的峰值内存降低，同时不损失准确性。

Heartbeat Thinking：实时语音代理中的推测推理与工具执行

Heartbeat Thinking 通过周期性调用处理语音更新，允许正在进行的推理和工具调用完成，在 SpeechFCEval、FDBench v3 和 AudioCRAG 基准测试中提升工具覆盖率，FDBench v3 上工具覆盖率提高 16 个百分点，最终响应延迟降低 36.4%。

Draft Refinement Language Models (DRLMs) 提出并行推理新方法

DRLMs 使用单一去噪器并行生成和评估草稿，在 Countdown-5 达 44.4%、Sudoku-Extreme 达 93.9%，性能超越自回归和离散扩散基线模型。该方法通过单次前向传播计算空腔能量，无需额外评分模型即可完成复杂推理。

英伟达优化 Kimi K3 模型推理速度，提升 1.68 倍

英伟达通过 vLLM 优化使 2.8 万亿参数的 Kimi K3 模型达到 423 tok/s/user 推理速度，性能提升 1.68 倍。该优化采用大规模 Megakernel 融合技术，包含 1.2 万行代码。英伟达同时为 DeepSeek V4.1 等模型开发类似优化。

StartLux-Decision模型登顶Hugging Face决策模型SOTA

中国AI创业公司StartLux的StartLux-Decision-v1.1-27B-Instant模型以69.1分登顶Hugging Face Decision Index 0.3.2榜单，领先第二名近3分。该模型提供Instant与AutoThink两种模式，原创提出RLCD²强化学习训练方法，并推出DecisionPivot评测基准，累计下载量近12万。

联想 P7 AI 主机 1024 开启预约：此芯 P1 SoC + 后摩 M50 dNPU 方案

联想 AI 主机 P7 基于此芯 P1 SoC 和后摩 M50 dNPU 方案，具备 190TOPS 本地 AI 算力，支持 122B LLM 本地部署，上下文窗口 128K，本地推理速度 50TPS。整机仅 300g，最大功耗 30W，运行噪音低于 35dB(A)。10 月 18 日 14:30 在长沙智谷举行发布会并开启预约。

ATEST：自适应资源感知的 LLM 推理时扩展框架

ATEST 通过联合评估额外样本的预期值和当前 GPU 成本，实现动态推理时扩展。在 Phi-3-mini 和 Qwen2.5-3B 测试中，ATEST-Online 在高负载下将 GSM8K 准确率提升至 60.0%，且无任务延迟，同时比 ATEST-Calibrated 节省 42 倍 GPU 时间和 48 倍能耗。

Épi：迈向自主研究的持久自我改进智能体

研究人员提出Épi，一个能够跨模型会话持续研究并通过积累经验改进方法的自主研究智能体。Épi结合持久研究历史、分层记忆、分支和独立审查机制，维持研究连续性并从实验中学习。

视频推理分割中的时空链式视频原语方法

研究提出 TCoVP 方法，通过时空链式视频原语解决视频推理分割中的视觉参考缺口，在五个 VRS 基准测试中验证性能，模型与代码将开源。

Claude半小时解开密码学悬案，学界集体走偏20年

Anthropic的Claude模型在不到半小时内查明五条NIST标准椭圆曲线的种子生成方式，推翻了学界二十多年的错误猜测，发现种子实际来自90年代电脑时钟的时间戳。

Claude 当起"数字考古学家"：不到 30 分钟揭开困扰密码学界 26 年的 NSA 参数来源之谜

Anthropic 公司的 Claude 模型用不到 30 分钟追溯出五条美国国家标准与技术研究院标准椭圆曲线的"种子"来源，解决了延续约 26 年的密码学悬案。模型发现这些种子实际来自 C 语言库中的伪随机数生成器 lrand48，初始化输入是 Unix 时间戳，将生成时间追溯至 1997 年至 1998 年。

SparseMax-dSTL: 梯度分配优化时序逻辑轨迹的稳健性

SparseMax-dSTL 通过稀疏梯度投影构建时序逻辑轨迹优化，确保梯度权重始终为正且独立于时间跨度。在平面独轮车和七关节机械臂仿真中，其梯度权重在违规样本上保持1，而传统方法随时间衰减至0.04。该方法约束返回的轨迹满足规范要求，优于现有近似方法。

Elorian发布首个AI模型Glimpse，实现图像推理而非仅描述图像

Elorian发布首个AI模型Glimpse，采用'视觉scratch space'机制，可在推理过程中返回图像源区域、提取视频帧或运行代码进行测量比较。该模型在科学图表推理和短视频字幕生成方面表现优于GPT-6 Astra，定价为每百万输入token 0.60美元，输出token 3美元。

Google发布Gemini 4 Argon模型，在ARC-AGI-3基准测试中得分97.5%

Google Deepmind发布Gemini 4 Argon模型，在ARC-AGI-3基准测试中得分97.5%，成为第二个超过95%的AI实验室，仅次于OpenAI的GPT-6 Astra。该模型在25个公开游戏中比人类基准少需要62%的动作，但在数学和软件工程方面仍落后于竞争对手。

Reflection发布501B参数开源模型Beam

Reflection实验室在Hugging Face发布501B参数开源模型Beam，采用MoE架构，每激活23B参数，支持1M上下文窗口，专注编码和智能体应用，提供多种部署方案和微调教程。

Anthropic五年前机密文档泄露：研究路线图与产品发展历程

Anthropic一份2021年的内部研究路线图被意外曝光，文档中规划的研究方向如长上下文、工具使用、Agent安全等，在五年后陆续兑现为Claude系列产品。从Claude 1到Opus 5.5，从宪法AI到Computer Use、MCP协议、Claude Code，Anthropic沿着既定路线稳步推进，估值从1.24亿美元增长至1830亿美元，成为AI行业三巨头之一。

PrismML 发布 Ternary Bonsai 2 系列AI模型

PrismML 发布基于阿里 Qwen 3.5 的 Ternary Bonsai 2 系列模型，包含 2B、4B 和 9B 三种规模，采用三元权重表示法，存储占用分别为 0.43GB、0.95GB 和 2GB。在 iPhone 18 Pro Max 上，9B 模型最高可达每秒 34 个词元，2B 模型最高可达每秒 120 个词元。