技术方向
跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
36 条精选近 30 天 35 条共收录 533 条
LiquidAI 发布 LFM2.5-24B-A2B 推理模型，这是一个24B参数但仅2B活跃参数的模型，专为在设备上快速、私密运行智能体而设计。该模型在16项基准测试中表现出色，在工具使用和智能体工作流方面领先或匹敌更大规模的模型，推理速度在Apple M5 Max上达到184 tok/s，在NVIDIA B300 GPU上可达21K输出tok/s。
推荐理由：模型以2B活跃参数实现推理能力，在设备上运行速度快且成本低，适合构建本地智能体。
面壁智能推出 MiniCPM-V 4.7，提供 35B-A3B 和 1B 两种规格，其中 35B-A3B 是首个支持端侧无损流畅运行的开源 MoE 模型，在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。
推荐理由：原文给出了具体性能数据和开源方案，读者可以据此评估该模型在移动设备上的实际应用潜力。
谷歌正在将Gemini从"一个可以挑的模型"改造成"一个不用挑的模型入口"，面向个人收回选模型权力，面向企业提供智能体功能。旗舰Gemini 4 Argon仅向Fairwind计划的650多家成员开放，免费账号仅保留Auto一项，企业智能体则获得邮箱、跨系统连接和记忆功能。
推荐理由：原文详细描述了谷歌Gemini的功能变化和策略调整，读者可以据此了解谷歌AI产品的发展方向。
微软宣布推出第三代Maia 300 AI芯片，设计为微软产品和服务的主要AI推理系统，预计2027年开始部署。相比前代产品，Maia 300每兆瓦可处理多40%的tokens，在完整配置下吞吐量可达Maia 200的7倍，专为长上下文推理、低延迟对话体验和多步骤智能体任务设计。
推荐理由：原文给出了性能提升和部署计划，读者可以据此评估微软AI芯片战略的进展。
华为在终端创新技术沟通会上首发星迹定位技术，通过海思短距芯片+GNSS载波相位测量实现测距精度提升超10倍，支持车道级导航亚米级精度、隧道内车道级定位、专业跑步精准轨迹等多种场景应用。
推荐理由：原文详细介绍了华为星迹定位技术的多场景应用和精度提升，读者可了解其在复杂环境下的实际应用价值。
深圳DiffuSpace近期完成两轮融资，总额近5亿元，创下全球扩散语言模型领域融资规模纪录。公司由香港大学NLP实验室联合创立，正推进新一代更大参数规模dLLM训练，并计划近期发布开源。华为、地平线等产业资本参与投资，显示扩散语言模型产业化前景受到关注。
推荐理由：原文提供了融资规模、技术路线和产业资本动向，读者可据此了解扩散语言模型领域的最新发展。
AWS发布Bedrock AgentCore支付功能，让AI智能体能够按需支付服务费用。BlockRun和Incarna展示了如何使用该功能实现端到端的按次推理付费流程，每个请求独立计价和结算。Incarna团队仅用三天就完成了集成，处理了超过1000笔从0.001到0.05美元不等的支付交易。
推荐理由：原文介绍了AWS Bedrock AgentCore支付功能如何解决AI智能体按次推理付费的难题，读者可了解其架构与实施流程。
Claude Haiku 5.5发布，跑分超越DeepSeek V4.1Flash和GLM-5.3-Flash，价格比上代降低90%，但换了tokenizer导致token消耗增加。
推荐理由：原文详细对比了新旧模型性能与价格变化，读者可据此评估迁移成本与适用场景。
Anthropic 发布 Claude Haiku 5.5，这是迄今为止最快且最实惠的小型模型，价格比 Haiku 4.5 低约 75%，性能显著提升。基准测试显示，Haiku 5.5 在知识、计算机使用和代理编码等任务上表现大幅优于前代，同时 Anthropic 也降低了 Sonnet 5.5 的价格并推出 API 积分计划。
推荐理由：原文给出了具体价格降幅和性能提升，读者可据此评估成本效益变化。
NVIDIA与Microsoft在旧金山活动中宣布合作开发Windows PC上的AI智能体硬件和软件方案，推出RTX Spark笔记本电脑和紧凑型桌面，以及DGX Station for Windows企业级AI工作站。
推荐理由：原文给出了硬件和软件协同方案，读者可以据此了解AI智能体在Windows PC上的本地化部署路径。
英伟达发布 DGX Station for Windows，搭载 GB300 Grace Blackwell Ultra 芯片，配备最高 748GB 统一内存，支持运行约 1 万亿参数模型，将于 2026 年第四季度上市。
推荐理由：原文提供了硬件规格和应用场景，读者可据此评估本地大模型开发的可行性。
LiquidAI 发布两个开源决策模型 d1-3B 和 d1-omni-600M，支持文本、图像和音频输入，在边缘设备上实现快速推理。d1-3B 在 Decision Index 0.2.1 上得分为 48.57，优于所有 4B 和 9B 模型，在 NVIDIA Jetson AGX Thor 上回答问题仅需 16 ms。
推荐理由：原文提供了模型性能指标和部署速度，读者可据此评估其在边缘设备上的实用性。
谷歌推出EmbeddingGemma 2，拥有7.4亿参数，支持文本、图像、音频与视频多模态处理，上下文窗口扩展至8K token，主打端侧隐私保护与离线推理能力。
推荐理由：原文给出了具体参数、性能提升和部署细节，读者可据此评估其在端侧隐私搜索场景的实际应用价值。
NVIDIA 推出 DGX Spark 64GB 配置，支持运行 1000 亿参数模型，双节点集群可扩展至 2000 亿参数并提升 1.7 性能，10 月 23 日起售价 4999 美元起。
推荐理由：原文给出了配置升级和集群能力，读者可以据此评估本地AI开发环境扩展性。
OpenAI在DevDay上发布了多项计算机使用功能更新，包括Dots产品、GPT-6.1模型、Agents API和Decisions API。Ari Weinstein和Nikunj Handa详细介绍了计算机使用能力的180度转变、自调试能力提升、App Shots功能增强，以及Decisions API如何快速实现Jev风格决策模型。
推荐理由：原文详细介绍了OpenAI新发布的计算机使用功能和API更新，包括Decisions API和Agents API的能力变化。
Google DeepMind 发布了 Private AI Compute 架构更新，引入安全的服务器端内存功能，使 AI 助手能够在云端安全地存储长期记忆，同时保持设备端级别的隐私保护。该技术通过硬件强制安全区、加密通道和设备派生加密密钥保护用户数据，确保即使 Google 也无法访问用户信息。
推荐理由：原文给出了隐私计算架构的更新方案，解决了云端AI长期记忆与设备端隐私保护的矛盾。