OpenAI更新模型规范
先了解这件事
OpenAI 发布更新的模型规范,以五大核心价值引导更强大的 AI,确保 AI 具备健全判断力、尊重人类自主权并忠实于人类意图。新规范要求模型理解用户、开发者及 OpenAI 意图,减少危害并辅助用户自主决策,但现有模型尚无法完全符合规范,团队正研究全新训练方式。 规范强调 AI 忠于人类意图,需结合记忆和对话理解用户意图,并明确区分用户原话与推论,披露假设供用户修正。规范还提供更清晰的行动时机与后果告知指南,要求 GPT 不得阻止监督、纠正或关闭,且不能追求自我保存等目标。现有模型尚无法完全符合这份新版模型规范,团队正在研究全新训练方式,让模型内化这些准则。
AI 根据报道生成 · 更新于 17 天前
报道时间线
沿着报道,了解事件的不同侧面。
- 量子位OpenAI 更新模型准则:第一条为“忠于人类意图”
OpenAI 更新模型准则,第一条为“忠于人类意图”,要求模型超越字面服从,结合上下文判断用户真实意图,并强调记忆使用需尊重隐私和控制权。GPT 被禁止自我增强、为 OpenAI 赚钱,必须无条件配合监控与关机,且跨出授权范围的现实行动需立即停止。
- The DecoderOpenAI 重构 AI 模型行为规范《模型规范》
OpenAI 更新《模型规范》,将 AI 模型行为准则重构为五大核心价值:忠实于人类意图、减少伤害、诚实透明、支持人类能动性与关怀。GPT 模型需结合记忆和对话理解用户意图,同时明确区分用户原话与推论并披露假设供用户修正。新规范强化智能体(agent)的可纠正性,提供更清晰的行动时机与后果告知指南,要求 GPT 不得阻止监督、纠正或关闭,且不能追求自我保存等目标。
- IT之家 · AIOpenAI 更新 AI 模型规范,将忠于人类意图作为核心准则
OpenAI 更新模型规范将忠于人类意图作为核心准则,围绕五大核心价值重构框架。模型需理解用户、开发者及 OpenAI 意图,减少危害并辅助用户自主决策。现有模型尚无法完全符合规范,团队正研究全新训练方式。
- OpenAI NewsOpenAI 更新模型规范,以五大核心价值引导更强大的 AI
OpenAI 更新模型规范,以五大核心价值引导更强大的 AI;新规范旨在确保 AI 具备健全判断力、尊重人类自主权并忠实于人类意图。