跳到正文
实时
热点事件历史事件

AWS微调GPT-OSS-20B提升多语言推理

2 篇报道1 个报道来源26 天前更新

先了解这件事

AI 综述

AWS在Amazon SageMaker HyperPod上微调开源推理模型GPT-OSS-20B,以提升其在法语、德语、西班牙语和意大利语中的推理能力。GPT-OSS-20B默认用英语思考,在多语言推理测试中仅22%符合目标语言要求。通过监督微调(SFT)和强化学习(GRPO),团队提升了模型的表现。SFT负责主要行为教学,GRPO在有提升空间时进行优化。 AWS进一步在Amazon SageMaker AI上使用多轮强化学习(MTRL)训练模型执行序列任务,以提升GPT-OSS-20B解决Wordle游戏的解决率,从61%提升至84%(默认推理力度),成本约339美元。

AI 根据报道生成 · 更新于 26 天前

事件进展

2 个进展

  1. 10月24日 01:48 · 1 篇报道
    Multi-Turn Reinforcement Learning on Amazon SageMaker AI
    AWS Machine Learning Blog:在 Amazon SageMaker AI 上进行多轮强化学习:一份动手指南
  2. 10月21日 01:48 · 1 篇报道
    Fine-tuning GPT-OSS-20B for multilingual reasoning
    AWS Machine Learning Blog:在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 以实现多语言推理

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. AWS Machine Learning Blog
    在 Amazon SageMaker AI 上进行多轮强化学习:一份动手指南

    Amazon SageMaker AI 通过多轮强化学习(MTRL)训练模型执行序列任务,用户无需提供正确轨迹,只需定义结果评分。以 Wordle 游戏为例,将 GPT-OSS-20B 模型的解决率从 61% 提升至 84%(默认推理力度),成本约 339 美元。

10月21日
  1. AWS Machine Learning Blog
    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 以实现多语言推理

    GPT-OSS-20B 是一个开源推理模型,默认用英语思考,在多语言推理测试中仅 22% 符合目标语言要求。通过在 Amazon SageMaker HyperPod 上使用监督微调(SFT)和强化学习(GRPO),团队可提升模型在法语、德语、西班牙语和意大利语中的推理能力,其中 SFT 负责主要行为教学,GRPO 在有提升空间时进行优化。