Huggingface · Daily Papers· Muyao Yuan, Liyan Xu, Weizhan Zhang, Muyan Jiao, Jiangnan Li, Jinchao Zhang, Jie Zhou·· 6 天前AI 评分38
LoCo:用局部偏好学习压缩大模型推理链
Think Less, Locally: Local Preference Learning for Reasoning Compression
AI 导读
研究者提出 LoCo,一种针对推理压缩的局部偏好学习方法:从模型自身轨迹中检测过度思考状态,冻结对应推理前缀并重新生成更短的已验证续写,再用 DPO 训练状态条件偏好对。在五个数学和三个代码生成基准上,LoCo 将数学任务完成长度缩短 41.7%–45.4%、代码任务缩短 23.4%–36.3%,同时保持或提升准确率。仅用数学轨迹训练也能有效迁移到代码生成,代码和模型将公开。
来源:Huggingface · Daily Papers · arxiv.org