ATEST:自适应资源感知的 LLM 推理时扩展框架
ATEST 通过联合评估额外样本的预期值和当前 GPU 成本,实现动态推理时扩展。在 Phi-3-mini 和 Qwen2.5-3B 测试中,ATEST-Online 在高负载下将 GSM8K 准确率提升至 60.0%,且无任务延迟,同时比 ATEST-Calibrated 节省 42 倍 GPU 时间和 48 倍能耗。
ATEST 通过联合评估额外样本的预期值和当前 GPU 成本,实现动态推理时扩展。在 Phi-3-mini 和 Qwen2.5-3B 测试中,ATEST-Online 在高负载下将 GSM8K 准确率提升至 60.0%,且无任务延迟,同时比 ATEST-Calibrated 节省 42 倍 GPU 时间和 48 倍能耗。
AWS介绍了九阶段AI智能体评估框架,涵盖从基础定义到持续改进的全生命周期,帮助确保生产环境中AI智能体的质量和可靠性。该框架使用Amazon Bedrock AgentCore Evaluations,包括质量、安全、性能、成本和运营控制五个维度的评估,通过黄金数据集、评估器栈和自动化反馈循环,实现了智能体质量的持续监控和改进。
Resolvent 开发了名为 LaserBATMAN 的模拟应用,用于优化电动卡车电池的激光焊接工艺和电池组设计。该应用基于 COMSOL Multiphysics 软件,可模拟电池性能、预测焊接效果,并帮助工程师优化电池组设计,提高电池寿命和可靠性。
亚马逊CTO Werner Vogels在深圳交流中指出,企业不应因恐惧AI转型而匆忙决策,应先明确要解决的问题,了解AI能力边界。他分享亚马逊从数据库故障到构建Dynamo的经验,强调企业需评估AI是否适合当前任务,不必盲目追求顶级模型。他还讨论了Agent的责任边界、成本控制以及AI在减少专业人员事务性工作方面的价值。
范式智能与睿思智联联合推出开源一站式生产级AI部署平台模域ModelSphere,该平台免费开源,整合算力管理、模型部署和运行优化,支持多种国产算力芯片,系统极限吞吐效率较基准提升约285%。
Nvidia发布RTX Spark N1X芯片,搭载于多款高端笔记本中,包括Asus ProArt P16、HP OmniBook Ultra和Lenovo Yoga 9n等。
证枢是一套证书控制台,可向 ACME 机构申请免费证书并自动替换 Nginx 证书目录文件,支持重启或重载 Nginx。该工具整合 Vue 3 管理台与 Go 服务,浏览器打开即可使用,解决证书到期提醒、部署工具分散、通配符证书手工改 DNS及私钥散落多台服务器等问题。
Blueking Lite 新增 AI 对话式仪表盘搭建功能,支持数据源检索与图表生成。主机巡检功能打通执行、报告与通知全流程。平台具备低部署资源要求、低成本和渐进式体验特点。
Ubuntu 26.10 "Stonking Stingray"已正式发布,主要看点在于安全栈和内核更新,包括Rust重写的coreutils全面落地、后量子就绪的包签名和TPM全盘加密。
SpaceX与英伟达联合开发的Star Mind太空服务器采用Vera CPU与Rubin GPU组合架构,算力约为H100的25倍,将于2027年在德克萨斯州量产。该项目旨在将数据中心部署至近地轨道,利用太空环境解决能源与散热问题。
推荐理由:原文给出了太空服务器架构细节和量产时间,读者可据此了解太空数据中心的发展进程。
GitHub 宣布将 Copilot 智能体功能与罗技 MX Keypad 硬件整合,开发者可通过物理快捷键触发参数化提示、启动 Copilot 会话或执行多步骤序列。这一整合旨在减少开发过程中的摩擦,保持专注,同时保留开发者对代码质量的最终决策权。
推荐理由:GitHub Copilot 与罗技 MX Keypad 结合,将智能体从对话窗推进到物理控制,开发者可自定义快捷键触发工作流。
Nvidia发布Nemotron 3.5 Super VL,一个1200亿参数的开源多模态模型,专为持续运行的企业级AI智能体设计,同时推出两个面向本地设备的Bolt模型。
NVIDIA 发布了 1200 亿参数的开放模型 Nemotron 3.5 Super VL,以及两个边缘模型 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB,覆盖从企业服务器到边缘设备的全范围智能体部署。Super VL 在多模态智能体任务上达到前沿准确度,同时速度比同类模型快 5 倍;Bolt 系列则针对本地硬件优化,平衡智能与速度。
推荐理由:NVIDIA 推出覆盖从数据中心到边缘设备的全系列智能体模型,开放权重让企业能自主定制部署。
微软为Nvidia RTX Spark笔记本平台进行了多项优化,包括支持AI智能体快速安装、统一内存架构优化以及游戏性能提升。用户首次使用时只需两步即可安装AI智能体,Windows Store将负责更新。
NVIDIA加入欧洲委员会的AI科学促进计划,承诺提供250多个开放模型、1400多个开源软件项目、计算资源、培训课程和技术支持,以加速欧洲科学研究和创新。
推荐理由:原文详细描述了NVIDIA为欧洲科学界提供的技术支持计划,包括开放模型、计算资源和培训项目。
微软确认启用“管理员保护”的 Windows 11 设备安装 10 月更新后,非管理员用户远程桌面连接可能失败,报错代码 0xC000000D。该问题已标记为“已缓解”,微软正开发永久补丁,临时解决方案为关闭“管理员保护”功能。
AWS官方教程介绍如何使用Amazon Bedrock AgentCore构建自改进文档处理系统,该系统通过多个AI智能体协作,能够自动分类、提取、验证和学习商业文档,无需人工模板配置。系统可在20分钟内部署,处理新文档类型时能自动学习并重用提取指令,提高处理效率。
英特尔发布 Intel Inference Microservices 服务,这是一套面向大语言模型推理的容器化微服务方案,可自动检测硬件并配置 vLLM 参数,支持第四至六代至强处理器。该服务通过 OpenAI 兼容 API 提供模型服务,启动时自动检测处理器型号并应用英特尔预先验证的配置参数,无需手动优化。
Tamnoon基于Amazon Bedrock构建了名为Tami的AI智能体云修复编排器,通过四个专业代理实现从发现问题到执行修复的完整流程,在90天内将关键云暴露减少了90%且无生产问题。该系统集成了CNAPP和云安全工具,使用Amazon Bedrock的多种模型处理不同任务,并通过多层安全架构确保零生产问题。
AWS团队展示了如何使用Amazon Bedrock AgentCore构建AI智能体系统,自动化生成PowerPoint演示文稿,在内部测试中完成时间不到90秒。
Amazon SageMaker JumpStart 提供预训练模型目录,支持一键部署、性能测试及资源清理。2026 年新增模型发现优化、预配置端点选项及 Hugging Face 深度集成,支持低成本、低延迟等场景。评测可测量延迟、输出长度及生成速率,适配多种模型需调整参数格式。
NVIDIA加速计算技术被欧洲多城市用于构建物理AI智能体和数字孪生系统,支持城市决策、维护预测和公共服务优化。合作伙伴包括ABA Technology、Akila、Galene AI等公司,应用案例覆盖比利时、芬兰、法国、意大利等国家的城市,涉及交通管理、能源效率、公共安全等多个领域。
推荐理由:原文展示了NVIDIA技术如何支持欧洲城市部署AI智能体,提供了具体应用案例和合作伙伴信息。
奇安信副总裁陈晨从八个维度系统对比了个人与企业研发 Agent的功能差异,指出个人 Agent目标是解放个人能力,企业 Agent则是将模型不确定性收束进可控、可信、可审计的框架。
微软为 Windows 11 26H1 推送 KB5127646 累积更新,版本号升至 Build 28000.3231。任务栏新增四边贴靠功能,支持底部、顶部、左侧、右侧位置自定义,并优化开始菜单布局与搜索体验。
DjangoAdmin v2.7.3 发布,修复近期用户反馈问题。该框架基于 FastAPI、Vue3、TypeScript 等技术栈构建,提供前后端分离的企业级数据中台解决方案,内置精细化 RBAC 权限管控体系。
大智慧与阿里云合作,将传统金融行情软件升级为AI原生应用,通过数据治理、Agent工程框架、记忆体系和评测体系四大关键要素,实现从看行情到懂投资的跃迁。
Python 3.15 内置 profiling.sampling 对 web-edit 应用分析显示,64.8% 的 CPU 栈来自混合行尾保留功能,38.3% 的叶子样本来自 SequenceMatcher.find_longest_match。
Flox Intelligence开发了一种基于边缘设备的AI威慑系统,通过识别野生动物并发出物种特定的声音将其驱离,目前已在北美、欧洲和澳大利亚部署约150台设备,并与阿尔斯通等公司建立合作。
GitHub 发布了基于 ModernBERT 的密钥检测模型,采用两阶段管道(候选生成和上下文感知分类),相比之前的 LLM 管道,用户接受度提高 11.5%,推送后扫描执行时间减少 86%,服务成本降低 98%以上。该模型通过结合正则表达式的高召回率和 ModernBERT 的上下文理解能力,有效区分真实密钥和假阳性,提高了检测精度和效率。
推荐理由:GitHub 发布了基于 ModernBERT 的密钥检测模型,通过两阶段管道显著提高了检测精度并降低了成本。
前谷歌和SpaceX产品经理Rama Afullo创立的Satlyt公司已完成800万美元种子轮融资,旨在开发卫星AI软件。该公司计划通过在卫星上运行AI模型来提高效率,减少数据传输成本,并已成功将Google DeepMind的Gemma AI模型部署在卫星上,将软件错误传输数据量减少了60%。
AWS详细介绍了在Amazon SageMaker AI上对Mixture-of-Experts (MoE)模型的内核优化技术,包括Swap-AB矩阵转置优化、FP8张量量化后端路由选择以及Triton JIT重新编译消除等方法,这些优化使MoE模型在H200上实现了高达10%的吞吐量提升和9%的首个token生成速度提升。
推荐理由:原文详细介绍了AWS在SageMaker AI上对MoE模型的内核优化技术,提供了具体实现方法和性能提升数据。
ShipStation Global团队构建了名为Deckhand的AI IT帮助台,基于Amazon Bedrock AgentCore,在Slack中运行,能够回答IT问题、分析错误截图并创建Jira工单。该系统在三个月内处理了1,935条消息,解决了97.5%的查询,获得了96%的积极反馈率,为IT团队节省了大量时间。
Orca Security 与 AWS 合作构建了 Discovery AI,这是一个基于 Amazon Bedrock 的自然语言查询智能体,可将自然语言问题转换为 Sonar 查询。
DLSS 5 即将于11月5日在《霍格沃茨之遗》上线,面部渲染效果较此前演示更自然。Nvidia 发布10月更新,DLSS 5 模型参数量缩减24%,4K VRAM 占用降低20%,RTX 50 系 GPU 推理速度提升2倍。
产业家基于138个工业级案例,分析了企业AI智能体从概念到落地的工程挑战,指出大模型仅是引擎,传统软件工程底座才是关键。文章提出了智能体架构设计的四大职能范式和五条工程生存法则,强调不存在通用架构,必须根据业务环境特性进行设计。
推荐理由:原文基于138个工业案例,揭示了企业级AI智能体落地的工程挑战与架构设计范式。
华硕在 2026 OCP 全球峰会发布基于 NVIDIA MGX 架构的 2U 服务器 XA P2N-E2,配备 Vera CPU 和最多 2 块 RTX PRO 6000 Blackwell GPU,专为代理式 AI 与强化学习工作负载设计。该产品支持代码执行、工具调用和沙盒运算等任务。
美国94座核反应堆中大多数已接受AI部署,Atomic Canyon推出NIVA核工业虚拟助手,Nuclearn与65家以上美国合作伙伴合作,微软和英伟达合作将AI应用于核电站全生命周期。AI主要用于处理核能行业的文书工作和知识管理,解决行业知识断代问题。
GrantForge 2026.1.0 正式发布,新增 HDFS、ZooKeeper、MySQL 权限控制与数据脱敏功能。该平台基于 Spring Boot、Spring Security 和 Vue 3 构建,支持 RBAC 权限管理。
德勤与香港大学报告显示,企业AI应用率上升但深度使用率仅从7.4%升至10.2%,多数企业面临投资回报低于预期的问题。联想案例表明,企业需从'+AI'走向'AI+',通过流程重塑、组织变革和治理体系建设才能真正释放AI价值。
AMD于10月12日正式发布Helion智能体AI机架,这是一套基于开放计算项目(OCP)规范的开放蓝图,搭载AMD自家计算芯片,专为智能体AI工作负载设计。该平台提供两种主要配置,分别针对超大规模数据中心和企业级客户,最高可扩展至32,768个CPU核心,并支持液冷和风冷版本。思科、戴尔等八家公司已宣布支持该平台,相关配置产品计划于2026年11月上市。