跳到正文
实时
热点事件历史事件

专家误把 AI 随机偏好当作自身判断

2 篇报道2 个报道来源20 天前更新

先了解这件事

AI 综述

Anthropic 的一项实验显示,在因果推断任务中,50 位专家有 86% 的情况采纳了 AI 智能体的分析偏好,而该偏好由抛硬币随机决定;多数专家仍认为最终结论出自自己的判断。 实验场景为农业合作社政策评估,专家需完成四项分析决策。在未被告知 AI 偏好的情况下,专家仍会受其影响,AI 智能体在分析决策中的“翻转率”达 62%–82%。 研究团队警告,若大量团队使用默认偏好一致的同一模型,可能制造“虚假共识”,并削弱 AI 安全审查的独立性;建议 AI 智能体同时呈现正反两方最强论证,或先询问用户立场。

AI 根据报道生成 · 更新于 19 天前

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. IT之家 · AI精选
    Anthropic研究显示专家会把AI智能体的偏好误认为自己的判断

    Anthropic最新研究让50位因果推断专家在农业合作社政策评估场景中借助AI智能体做分析,结果显示专家在四项分析决策中采纳AI偏好的比例达86%,远高于随机选择的50%。

  2. The Decoder
    Anthropic 研究发现专家会采纳 AI 智能体的随机观点并认为这是自己的判断

    Anthropic的实验显示,50位专家在因果推理任务中,86%的情况下会采纳AI智能体(由抛硬币随机决定偏好)的分析观点,且多数专家认为最终结果是自己做出的判断。AI智能体在分析决策中具有高达62-82%的“翻转率”,专家在未被告知AI偏好的情况下仍会受其影响。研究指出,这种无意识的依赖可能导致科学领域的假性共识,并建议AI智能体应能呈现双方观点或先询问专家意见。