跳到正文
IT之家·· 12 天前精选AI 评分78

面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7

面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度

AI 导读

面壁智能推出 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。

推荐理由

原文给出了具体性能数据和开源方案,读者可以据此评估该模型在移动设备上的实际应用潜力。

来源:IT之家 · ithome.com