跳到正文
AWS Machine Learning Blog· Mijanur Palash·· 14 小时前AI 评分38

在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod

AI 导读

针对 GPT-OSS-20B 在多语言推理测试中仅 22% 用目标语言思考的问题,AWS 在 Amazon SageMaker HyperPod 上用 SFT 与 GRPO 进行微调。结论是 SFT 承担大部分工作,GRPO 在存在提升空间时进一步优化,技术选择需匹配能力差距。团队还通过 Qwen2.5-7B 对照实验验证了 GRPO 的适用条件。

来源:AWS Machine Learning Blog · aws.amazon.com