Hugging Face Blog·· 4 天前精选AI 评分81
VocabX：通过词汇专业化降低小模型推理成本77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Hugging Face 博客介绍了 VocabX 方法，通过按成本而非频率重构词汇表，在保持基础模型不变的情况下，将葡萄牙语作文评分系统的推理成本降低77%，同时提高了评分质量。该方法在多个领域和模型家族中都优于现有参考方法。
推荐理由
通过按成本而非频率重构词汇表，VocabX 在保持模型不变的情况下降低推理成本77%，为小模型领域专业化提供新思路。
来源：Hugging Face Blog · huggingface.co