斯坦福团队探索 RSIHF 框架评估 AI 自动训练中的受欢迎程度与安全性

斯坦福团队提出 RSIHF 框架，首次证实 AI 自动训练过程中模型的「受欢迎程度」与「安全性」不能画等号；算力堆叠无法保证模型自我提升胜率，迎合人类倾向可能导致安全指标下滑；RSIHF 框架需分开评估受欢迎程度与安全性。