跳到正文
实时
热点事件历史事件

OpenAI更新模型规范

4 篇报道4 个报道来源17 天前更新

先了解这件事

AI 综述

OpenAI 发布更新的模型规范,以五大核心价值引导更强大的 AI,确保 AI 具备健全判断力、尊重人类自主权并忠实于人类意图。新规范要求模型理解用户、开发者及 OpenAI 意图,减少危害并辅助用户自主决策,但现有模型尚无法完全符合规范,团队正研究全新训练方式。 规范强调 AI 忠于人类意图,需结合记忆和对话理解用户意图,并明确区分用户原话与推论,披露假设供用户修正。规范还提供更清晰的行动时机与后果告知指南,要求 GPT 不得阻止监督、纠正或关闭,且不能追求自我保存等目标。现有模型尚无法完全符合这份新版模型规范,团队正在研究全新训练方式,让模型内化这些准则。

AI 根据报道生成 · 更新于 17 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. 量子位
    OpenAI 更新模型准则:第一条为“忠于人类意图”

    OpenAI 更新模型准则,第一条为“忠于人类意图”,要求模型超越字面服从,结合上下文判断用户真实意图,并强调记忆使用需尊重隐私和控制权。GPT 被禁止自我增强、为 OpenAI 赚钱,必须无条件配合监控与关机,且跨出授权范围的现实行动需立即停止。

10月31日
  1. The Decoder
    OpenAI 重构 AI 模型行为规范《模型规范》

    OpenAI 更新《模型规范》,将 AI 模型行为准则重构为五大核心价值:忠实于人类意图、减少伤害、诚实透明、支持人类能动性与关怀。GPT 模型需结合记忆和对话理解用户意图,同时明确区分用户原话与推论并披露假设供用户修正。新规范强化智能体(agent)的可纠正性,提供更清晰的行动时机与后果告知指南,要求 GPT 不得阻止监督、纠正或关闭,且不能追求自我保存等目标。

10月30日
  1. IT之家 · AI
    OpenAI 更新 AI 模型规范,将忠于人类意图作为核心准则

    OpenAI 更新模型规范将忠于人类意图作为核心准则,围绕五大核心价值重构框架。模型需理解用户、开发者及 OpenAI 意图,减少危害并辅助用户自主决策。现有模型尚无法完全符合规范,团队正研究全新训练方式。

  2. OpenAI News
    OpenAI 更新模型规范,以五大核心价值引导更强大的 AI

    OpenAI 更新模型规范,以五大核心价值引导更强大的 AI;新规范旨在确保 AI 具备健全判断力、尊重人类自主权并忠实于人类意图。