跳到正文

#部署/工程科技财经热点 · 每日精选

268今日入库
2 条进入精选
44/47 信源在线· 3 异常
近 14 天入库走势
近 7 天分类构成
行业 1375财经 1145硬件本体 984AI 产品 740AI 模型 266其他 395
  1. IT之家76

    谷歌开源 TorchTPU,挑战英伟达 AI 生态主导地位

    谷歌宣布面向 TPU 的原生 PyTorch 框架 TorchTPU 已在 GitHub 开源,允许开发者无需重写代码即可将现有 PyTorch 应用迁移到谷歌 TPU 和谷歌云。亚马逊同期也发布了类似产品 TorchNeuron,用于将应用移植到 Trainium 芯片和 AWS。两家公司正努力削弱英伟达在 AI 硬件和生态中的主导地位。

    推荐理由:谷歌与亚马逊相继开源 PyTorch 适配自家芯片的框架,试图打破英伟达在 AI 硬件与生态中的垄断地位。

  1. 华尔街见闻83

    DeepSeek全面开源推理框架DeepInfer

    DeepSeek宣布全面开源内部推理框架DeepInfer及Token编解码组件deepseek-recipe,支持英伟达与华为昇腾平台,单集群日吞吐达155万亿Token,每卡每小时收入38美元。

    推荐理由:开源推理框架让企业能自主优化AI服务成本,但KVCache与负载均衡组件仍保留在内部,开源与商业边界值得关注。

  1. Solidot68

    SonicBoom发布:AI框架告别手工调优

    SonicBoom是一个全新的AI运行时框架,采用GPLv3许可证,提供语言无关的C API接口。它利用LLVM MLIR优化计算图,在保持PyTorch灵活性的同时获得类似TensorFlow的静态图性能,在RTX 3050 8G上提升原始性能20%。

    推荐理由:SonicBoom 通过图编译器优化而非手工调优提升推理性能,实现了动态图灵活性与静态图性能的统一。

已经到底了