跳到正文
AWS Machine Learning Blog· Giuseppe Zappia·· 3 小时前AI 评分38

在 Amazon SageMaker AI 上用知识蒸馏构建高效智能体

Build efficient agents with knowledge distillation on Amazon SageMaker AI

AI 导读

AWS 介绍如何用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调购物智能体:由前沿教师模型生成多步轨迹,仅保留能完成任务的样本,再用监督微调训练小模型。SeqKD 只需教师模型的文本输出,无需 logits 或强化学习基础设施,因此适用于仅能通过 API 访问的闭源教师模型。文中以 DeepSeek-R1 蒸馏到 Qwen 和 Llama 小模型为例说明该路线。

来源:AWS Machine Learning Blog · aws.amazon.com