跳到正文
实时
热点事件历史事件

FORK 奖励机制缓解奖励劫持

1 篇报道1 个报道来源23 天前更新

先了解这件事

AI 综述

qwen 发布 FORK 奖励机制,通过结合评分驱动的必要性信用和事实评分,同时优化召回率和精确率,提升了响应质量并减少了冗余。与仅基于召回率的传统奖励相比,FORK 显著提高了精确度并缩短了响应长度,同时保持了相似的评分覆盖率,在 RubricHub-Medical 和 HealthBench 上将胜率分别从 10.6% 提升至 68.0% 和从 22.1% 提升至 74.1%。实验结果显示 FORK 优于现有的基于标准的强化学习方法,并达到了平衡评分覆盖率和整体响应质量的帕累托最优性能。

AI 根据报道生成 · 更新于 23 天前

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. Hugging Face Daily Papers
    FORK奖励机制:通过精确目标缓解基于标准的强化学习的奖励劫持

    FORK 奖励机制通过结合评分驱动的必要性信用和事实评分,同时优化召回率和精确率,提升了响应质量并减少了冗余。与仅基于召回率的传统奖励相比,FORK 显著提高了精确度并缩短了响应长度,同时保持了相似的评分覆盖率,在 RubricHub-Medical 和 HealthBench 上将胜率分别从 10.6% 提升至 68.0% 和从 22.1% 提升至 74.1%。