跳到正文
今天10月25日周日1 条
  1. IT之家73

    GPU Unlock 开源项目可释放英伟达 RTX 30 系列显卡隐藏 AI 算力

    GitHub 用户扎吉塔开发的开源项目 GPU Unlock 可解除英伟达 RTX 30 系列显卡的部分性能限制,在特定负载下张量核心计算吞吐量几乎翻倍,实际性能提升可达 60%。该项目基于 Linux 内核模块,无需修改驱动或刷写 VBIOS,支持 GA102、GA103、GA104、GA106 型号 GPU,但效果因负载和硬件而异。

10月24日周六
  1. AWS Machine Learning Blog75

    AWS SageMaker AI多轮强化学习实践指南

    AWS发布多轮强化学习(MTRL)教程,指导用户如何在SageMaker AI上训练AgentCore智能体,使其能够处理需要序列决策的任务。教程以Wordle游戏为例,展示了从环境部署、数据准备到模型训练和评估的完整流程,使用GPT-OSS-20B模型将解决率从61%提升到84%,训练成本约339美元。

    推荐理由:多轮强化学习让模型从单次回答转向序列决策,AWS教程展示了如何用SageMaker训练AgentCore智能体。

  2. AWS Machine Learning Blog35

    Amazon QuickSight 层级地图新增 GeoJSON 点位与路线可视化功能

    Amazon QuickSight 层级地图现支持 GeoJSON 文件中的 Point 和 LineString 几何类型,可标记具体位置(如门店)或绘制路线(如航班路径)。用户需通过共享键值关联 QuickSight 数据集与 GeoJSON 文件,文件最大支持 100 MB。该功能适用于展示地理位置相关的业务模式,如销售区域或配送路径。

10月23日周五
  1. 华尔街见闻75

    在OpenAI当FDE工程师的真实体验

    OpenAI的FDE工程师团队负责将AI技术落地到企业实际业务中,他们需要快速学习行业知识、解决棘手问题,并接受AI进化带来的工作成果被替代的现实。FDE团队的核心价值观是不断自我淘汰,解决更难的问题,推动AI从实验室走向生产环境。

  2. MIT Technology Review · AI70

    设计持久可靠的AI服务架构

    文章指出企业AI竞争优势更多取决于围绕模型的工程系统而非模型本身。随着AI从实验转向生产,企业领导者需要关注如何可靠、经济、规模化地交付智能,这取决于服务架构的设计。文章强调应根据工作负载而非模型选择来构建架构,并考虑系统各组件间的相互影响,同时为技术变化做好准备。

  3. AWS Machine Learning Blog73

    AWS博客:使用Amazon SageMaker AI上的Kokoro TTS实现AI语音代理的流式低延迟语音

    AWS发布教程,展示如何通过流式文本到语音(TTS)技术解决AI语音代理的响应延迟问题。文章介绍了在Amazon SageMaker AI上部署Kokoro-82M模型,实现句子级别的语音合成,将首次音频输出时间从329.3毫秒减少到156.7毫秒,提升52.4%。同时比较了不同传输方式的成本和性能,包括base64编码SSE和二进制JSON混合传输方案。

    推荐理由:通过流式合成解决AI语音助手响应延迟问题,将首次音频输出时间减少一半以上,展示了如何在SageMaker上实现低延迟语音流。

  4. AWS Machine Learning Blog75

    AWS 推出 SageMaker 训练会话 API,无需管理 GPU 即可编写自定义训练循环

    AWS 发布 Amazon SageMaker 训练会话 API,允许开发者编写自定义训练循环,同时由服务管理 GPU 资源、分布式执行、故障恢复和检查点存储。

    推荐理由:将训练抽象从算法层下沉到计算层,让开发者专注算法创新而无需管理GPU资源,这种服务模式可能重塑大模型定制化开发流程。

  5. AWS Machine Learning Blog65

    AWS SageMaker AI 推出训练会话功能,无需管理 GPU 即可自定义模型

    AWS 宣布 SageMaker AI 推出训练会话功能,企业无需管理 GPU 即可自定义模型。该功能支持多种后训练技术如 SFT、DPO、RLVR、RLAIF 和多轮强化学习,开发者可编写自己的训练循环,同时 SageMaker AI 处理 GPU 分配、分布式执行和故障恢复。

    同一件事,精选收录的是《AWS 推出 SageMaker 训练会话 API,无需管理 GPU 即可编写自定义训练循环》

  6. The Verge · AI75

    微软发布诊断编排器AI工具,准确率声称达医生四倍

    微软发布名为诊断编排器(Diagnostic Orchestrator)的AI工具,据称诊断准确率可达人类医生的4倍,在83%的病例中做出正确诊断,而普通医生仅为36%。该系统使用多个AI代理模拟医生诊断流程,基于OpenAI的GPT-5模型开发,计划开源其测试基准SDBench。微软计划未来几个月在波士顿贝斯以色列女执事医疗中心进行真实临床环境测试。

10月22日周四
  1. MIT Technology Review · AI70

    AI隐藏的存储账单:推理留下的数据足迹

    MIT Technology Review文章指出,企业AI基础设施规划常忽视存储成本。随着推理需求增长,每次请求产生的后端数据(日志、缓存、安全记录等)远超用户看到的输出文件,例如8秒视频片段可产生500MB后端数据。麦肯锡预测到2030年,AI推理需求将以35%的年复合增长率增长,占数据中心总需求的40%以上。

  2. HuggingFace Daily Papers35

    VX-One: 实时边界分类的校准决策头研究

    VX-One 是一种小型多头网络(10万-1000万参数),输出校准门、封闭候选集选择和序数评分,在 UNSW-NB15 和 CIC-IDS2017 上检测性能优于校准 XGBoost,但多类归因落后。两阶段级联方案(Suricata + VX-One)对未知攻击召回率达97.8%,但校准性能随时间漂移下降。

  3. AWS Machine Learning Blog68

    AWS发布基于Strands Agents的自适应智能体智能框架

    AWS发布了基于Strands Agents的自适应智能体智能框架(AAIF),通过本地小模型处理常规任务,云端大模型处理复杂分析,降低API成本并减少延迟。该框架采用三层架构:智能调度层使用轻量级SLM作为决策层,本地处理层通过Ollama运行SLM处理常规任务,云处理层通过Amazon Bedrock处理复杂模式分析和战略建议。

    推荐理由:通过本地小模型与云端大模型协同,AAIF框架解决了AI智能体全依赖大模型导致的成本与延迟问题,展示了智能路由的实用价值。

  4. Hugging Face Blog81

    VocabX:通过词汇专业化降低小模型推理成本77%

    Hugging Face 博客介绍了 VocabX 方法,通过按成本而非频率重构词汇表,在保持基础模型不变的情况下,将葡萄牙语作文评分系统的推理成本降低77%,同时提高了评分质量。该方法在多个领域和模型家族中都优于现有参考方法。

    推荐理由:通过按成本而非频率重构词汇表,VocabX 在保持模型不变的情况下降低推理成本77%,为小模型领域专业化提供新思路。

10月21日周三
  1. IT之家73

    英伟达发布AI预制工厂DSX POD,2027年初全球交付

    英伟达CEO黄仁勋在德国GTC大会上推出模块化AI工厂参考设计DSX POD,将计算、网络、布线等基础设施预先集成到模块化集装箱中,可在部署现场14天内完成投产。该方案旨在缩短AI基础设施从准备就绪到开始运行生产级AI工作负载的时间,使运营商更早提供推理服务并获得收入。

  2. The Decoder65

    Nvidia 推出 DSX POD 模块化数据中心方案

    Nvidia 发布 DSX POD 参考设计,将 AI 数据中心以预制集装箱形式交付,部署时间从六个月缩短至最短 14 天。该方案由 Dell、HPE、Lenovo 和 Schneider Electric 等合作伙伴在工厂完成计算机、网络设备、布线、电源和液冷系统的安装与测试,现场只需连接到已准备好的位置即可运行。首批产品计划于 2027 年初全球发货。

  3. NVIDIA Blog65

    NVIDIA cuDSS 正式发布,加速工程与科学仿真

    NVIDIA cuDSS 今日正式发布,这是一款 CUDA-X 库,可将工程和科学仿真中的关键部分转移到 GPU 上执行。cuDSS 加速大型稀疏系统求解,使应用程序减少结果时间并提高仿真吞吐量,使用户能够以更低成本探索更大、更真实的模型。Applied Materials、COMSOL、Cadence 等行业领导者已将 cuDSS 集成到其工具中,实现最高 10 倍的加速。

    推荐理由:cuDSS 将稀疏系统求解加速10倍,让工程仿真从工作站扩展到计算集群,降低设计验证成本。

  4. IT之家32

    英伟达 621.01 Game Ready 驱动发布:针对《影之刃零》《使命召唤:现代战争 4》等新游戏提供优化,支持微软 Advanced Shader Delivery 技术

    英伟达发布 GeForce Game Ready 驱动 621.01,为《影之刃零》《使命召唤:现代战争 4》等支持 DLSS 和 RTX 技术的新游戏提供优化。该版本修复《鸣潮》《星际公民》等多款游戏的崩溃问题,并解决 360Hz 显示器黑闪、FPS 下降等故障。