OpenAI 发布 CSAM 图像分类器模型卡
先了解这件事
OpenAI 发布了使用受控、人工标记的图像数据集进行训练和评估的 CSAM 图像分类器模型卡,这些数据集符合美国法律以防止儿童性剥削。在线评估的精确度显著低于离线评估,因为在线评估集中的 CSAM 比例远低于离线集,导致少量误报可能超过真实检测数,降低精确度。OpenAI 受到法律、隐私、安全和审阅者福祉控制的监管,敏感材料在受控环境中存储和处理,且访问受限。OpenAI 称,在线评估结果更好地反映了人类审阅者在 ChatGPT 上看到的标记混合。OpenAI 正在向选定的公司免费提供该分类器,并与国家失踪和受剥削儿童中心 (NCMEC)、Tech Coalition 和 ROOST 合作共享访问权限。在早期测试中,该分类器在标记相同数量的虐待图像的同时,减少了 48% 的图像标记,从而减少了审阅者的工作量。
AI 根据报道生成 · 更新于 5 小时前
事件进展
2 个进展
- 11月17日 01:00 · 3 篇报道发布新图像分类器OpenAI News:OpenAI 发布新工具和合作支持,加强打击网络儿童性剥削和虐待
- 11月16日 08:00 · 1 篇报道OpenAI CSAM Image Classifier Model CardOpenAI Deployment Safety:OpenAI CSAM 图像分类器模型卡
报道时间线
沿着报道,了解事件的不同侧面。
- The Verge · AIOpenAI 发布儿童性虐待图像分类器以应对 AI 生成内容的泛滥
OpenAI 发布儿童性虐待图像分类器以应对 AI 生成内容的泛滥,该分类器可识别包括 AI 生成内容在内的虐待图像,并将误报率降低 48%。OpenAI 还向经审核的组织提供免费访问权限,并帮助培训执法人员使用 AI 辅助调查。
- TechCrunch · AIOpenAI 发布新图像分类器及 ChatGPT 警告以应对儿童性虐待材料
OpenAI 今日宣布推出新工具以应对日益增长的 AI 工具安全担忧,包括可检测儿童性虐待材料(CSAM)的新图像分类器、防止用户创建或访问性化儿童内容的警告和临时阻止措施、面向开发者的新指南以及面向执法部门的工具。
- OpenAI Deployment SafetyOpenAI CSAM 图像分类器模型卡
OpenAI 发布了 CSAM 图像分类器模型卡,该模型使用受控、人工标记的图像数据集进行训练和评估,这些数据集符合美国法律以防止儿童性剥削。在线评估的精确度显著低于离线评估,因为在线评估集中的 CSAM 比例远低于离线集,导致少量误报可能超过真实检测数,降低精确度。
本事件热度走势
- 可比范围当前
- 29
- 可比范围峰值
- 3411月17日 04:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。