跳到正文
Hugging Face Blog·· 2 小时前AI 评分58

VocabX 如何通过词表专用化将实际应用推理成本降低 77%

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

AI 导读

Dharma AI 在 Hugging Face 博客中预览了即将发布的 VocabX 论文,该方法在不更换基座模型的前提下重构词表,使生产环境中的葡萄牙语作文评分器推理成本下降 77.0%。

来源:Hugging Face Blog · huggingface.co