MIT Technology Review · AI· Affan Syed·· 3 小时前AI 评分70
停止计算token,开始计算交付的软件
Stop counting tokens, start counting what ships
AI 导读
作者提出AI开发应从按token计费转向按合并请求计费,以衡量实际产出而非消耗量。文章建议混合使用前沿模型和开源模型,并考虑自建推理能力以降低长期成本,同时保持对敏感代码的控制。HPE的实践显示,这种混合模式可将token成本降低30-50%。
来源:MIT Technology Review · AI · technologyreview.com