IT之家·· 18 天前AI 评分72
GitHub Copilot 支持本地 AI 模型推理
GitHub Copilot 不再纯云端 AI 模型:Surface Laptop Ultra 本地推理吞吐量最高每秒 63 词元
AI 导读
微软宣布 GitHub Copilot 将在本月底前支持本地 AI 模型推理,开发者可在云端模型与设备端模型之间自动或手动切换。微软推出 MAI Code 1.1 Flash 模型,在 Surface Laptop Ultra 上实测显示解码吞吐量介于每秒 40 至 63 个词元。
来源:IT之家 · ithome.com