实时
AWS微调GPT-OSS-20B提升多语言推理
热点事件历史事件
AWS微调GPT-OSS-20B提升多语言推理
2 篇报道1 个报道来源26 天前更新
先了解这件事
AI 综述
AWS在Amazon SageMaker HyperPod上微调开源推理模型GPT-OSS-20B,以提升其在法语、德语、西班牙语和意大利语中的推理能力。GPT-OSS-20B默认用英语思考,在多语言推理测试中仅22%符合目标语言要求。通过监督微调(SFT)和强化学习(GRPO),团队提升了模型的表现。SFT负责主要行为教学,GRPO在有提升空间时进行优化。 AWS进一步在Amazon SageMaker AI上使用多轮强化学习(MTRL)训练模型执行序列任务,以提升GPT-OSS-20B解决Wordle游戏的解决率,从61%提升至84%(默认推理力度),成本约339美元。
AI 根据报道生成 · 更新于 26 天前
最新进展10月24日 01:48
在 Amazon SageMaker AI 上进行多轮强化学习:一份动手指南事件进展
2 个进展
- 10月24日 01:48 · 1 篇报道Multi-Turn Reinforcement Learning on Amazon SageMaker AIAWS Machine Learning Blog:在 Amazon SageMaker AI 上进行多轮强化学习:一份动手指南
- 10月21日 01:48 · 1 篇报道Fine-tuning GPT-OSS-20B for multilingual reasoningAWS Machine Learning Blog:在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 以实现多语言推理
报道时间线
沿着报道,了解事件的不同侧面。
10月24日
- AWS Machine Learning Blog在 Amazon SageMaker AI 上进行多轮强化学习:一份动手指南
Amazon SageMaker AI 通过多轮强化学习(MTRL)训练模型执行序列任务,用户无需提供正确轨迹,只需定义结果评分。以 Wordle 游戏为例,将 GPT-OSS-20B 模型的解决率从 61% 提升至 84%(默认推理力度),成本约 339 美元。
10月21日
- AWS Machine Learning Blog在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 以实现多语言推理
GPT-OSS-20B 是一个开源推理模型,默认用英语思考,在多语言推理测试中仅 22% 符合目标语言要求。通过在 Amazon SageMaker HyperPod 上使用监督微调(SFT)和强化学习(GRPO),团队可提升模型在法语、德语、西班牙语和意大利语中的推理能力,其中 SFT 负责主要行为教学,GRPO 在有提升空间时进行优化。