跳到正文
NVIDIA Blog· Amr Elmeleegy·· 3 小时前AI 评分45

NVIDIA 发布针对韩国领先开源模型的 Dynamo 优化部署方案

NVIDIA Dynamo Recipes Bring Korea’s Leading Open Models to Production

AI 导读

NVIDIA 推出针对韩国四大开源模型(A.X K2、K-EXAONE 2.0、Solar Open 2、Motif-3)的 Dynamo 优化部署方案,支持多 GPU 分布式推理,在 B200 GPU 上可带来最高 2x 性能提升。该方案基于开源框架 NVIDIA Dynamo,简化数据中心级模型部署流程。

来源:NVIDIA Blog · blogs.nvidia.com