跳到正文
MIT Technology Review · AI· Affan Syed·· 3 小时前AI 评分70

停止计算token,开始计算交付的软件

Stop counting tokens, start counting what ships

AI 导读

作者提出AI开发应从按token计费转向按合并请求计费,以衡量实际产出而非消耗量。文章建议混合使用前沿模型和开源模型,并考虑自建推理能力以降低长期成本,同时保持对敏感代码的控制。HPE的实践显示,这种混合模式可将token成本降低30-50%。

来源:MIT Technology Review · AI · technologyreview.com