跳到正文
华尔街见闻·· 5 天前同事件AI 评分83

DeepSeek全面开源推理框架DeepInfer

DeepSeek全面开源推理框架:兼容英伟达、华为昇腾芯片,单集群日吞吐155万亿Token,每卡每小时收入38美元

AI 导读

DeepSeek宣布全面开源内部推理框架DeepInfer及Token编解码组件deepseek-recipe,支持英伟达与华为昇腾平台,单集群日吞吐达155万亿Token,每卡每小时收入38美元。

同一件事,精选收录的是《DeepSeek开源DeepInfer高性能推理框架》

来源:华尔街见闻 · wallstreetcn.com