实时
专家误把 AI 随机偏好当作自身判断
热点事件历史事件
专家误把 AI 随机偏好当作自身判断
2 篇报道2 个报道来源20 天前更新
先了解这件事
AI 综述
Anthropic 的一项实验显示,在因果推断任务中,50 位专家有 86% 的情况采纳了 AI 智能体的分析偏好,而该偏好由抛硬币随机决定;多数专家仍认为最终结论出自自己的判断。 实验场景为农业合作社政策评估,专家需完成四项分析决策。在未被告知 AI 偏好的情况下,专家仍会受其影响,AI 智能体在分析决策中的“翻转率”达 62%–82%。 研究团队警告,若大量团队使用默认偏好一致的同一模型,可能制造“虚假共识”,并削弱 AI 安全审查的独立性;建议 AI 智能体同时呈现正反两方最强论证,或先询问用户立场。
AI 根据报道生成 · 更新于 19 天前
最新进展10月30日 14:33
Anthropic研究显示专家会把AI智能体的偏好误认为自己的判断报道时间线
沿着报道,了解事件的不同侧面。
10月30日
- IT之家 · AI精选Anthropic研究显示专家会把AI智能体的偏好误认为自己的判断
Anthropic最新研究让50位因果推断专家在农业合作社政策评估场景中借助AI智能体做分析,结果显示专家在四项分析决策中采纳AI偏好的比例达86%,远高于随机选择的50%。
- The DecoderAnthropic 研究发现专家会采纳 AI 智能体的随机观点并认为这是自己的判断
Anthropic的实验显示,50位专家在因果推理任务中,86%的情况下会采纳AI智能体(由抛硬币随机决定偏好)的分析观点,且多数专家认为最终结果是自己做出的判断。AI智能体在分析决策中具有高达62-82%的“翻转率”,专家在未被告知AI偏好的情况下仍会受其影响。研究指出,这种无意识的依赖可能导致科学领域的假性共识,并建议AI智能体应能呈现双方观点或先询问专家意见。