跳到正文
钛媒体· 硅碳变量·· 17 天前AI 评分75

AI算力基础设施转向推理时代,超节点架构突破8卡服务器限制

数据中心,正在拆掉Token时代的旧围墙

AI 导读

随着AI进入推理为主的'干活'时代,全球Token消耗持续爆发,算力基础设施正从'堆硬件、扩规模'转向高吞吐、低成本、高稳定性的推理集群。中国日均Token调用量两年增长超千倍,超节点架构通过高密度互连技术突破8卡服务器限制,成为中大型AI数据中心的新选择。

来源:钛媒体 · tmtpost.com