IT之家·· 9 天前AI 评分73
PrismML 发布 Ternary Bonsai 2 系列AI模型
Ternary Bonsai 2 系列 AI 模型登场:苹果 iPhone 18 Pro Max 上本地吞吐最高每秒 120 个词元
AI 导读
PrismML 发布基于阿里 Qwen 3.5 的 Ternary Bonsai 2 系列模型,包含 2B、4B 和 9B 三种规模,采用三元权重表示法,存储占用分别为 0.43GB、0.95GB 和 2GB。在 iPhone 18 Pro Max 上,9B 模型最高可达每秒 34 个词元,2B 模型最高可达每秒 120 个词元。
来源:IT之家 · ithome.com