跳到正文
AWS Machine Learning Blog· Mijanur Palash·· 3 小时前AI 评分18

在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod

AI 导读

在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 可让这个以英文思考的开源推理模型按要求用目标语言推理,其基线在 50 例多语言测试中仅 22% 用对语言(法语、西班牙语、意大利语均为 0%)。实验显示 SFT 承担主要工作,GRPO 在模型已有一定能力时进一步优化,两者均采用 LoRA,GPT-OSS SFT 使用 4× ml.g6e.12xlarge。

打开原文aws.amazon.com

来源:AWS Machine Learning Blog · aws.amazon.com