跳到正文
Solidot·· 6 天前精选AI 评分68

SonicBoom发布:AI框架告别手工调优

AI 导读

SonicBoom是一个全新的AI运行时框架,采用GPLv3许可证,提供语言无关的C API接口。它利用LLVM MLIR优化计算图,在保持PyTorch灵活性的同时获得类似TensorFlow的静态图性能,在RTX 3050 8G上提升原始性能20%。

推荐理由

SonicBoom 通过图编译器优化而非手工调优提升推理性能,实现了动态图灵活性与静态图性能的统一。

来源:Solidot · solidot.org