跳到正文
实时
热点事件持续更新

OpenAI 发布 CSAM 图像分类器模型卡

4 篇报道4 个报道来源6 小时前更新

先了解这件事

AI 综述

OpenAI 发布了使用受控、人工标记的图像数据集进行训练和评估的 CSAM 图像分类器模型卡,这些数据集符合美国法律以防止儿童性剥削。在线评估的精确度显著低于离线评估,因为在线评估集中的 CSAM 比例远低于离线集,导致少量误报可能超过真实检测数,降低精确度。OpenAI 受到法律、隐私、安全和审阅者福祉控制的监管,敏感材料在受控环境中存储和处理,且访问受限。OpenAI 称,在线评估结果更好地反映了人类审阅者在 ChatGPT 上看到的标记混合。OpenAI 正在向选定的公司免费提供该分类器,并与国家失踪和受剥削儿童中心 (NCMEC)、Tech Coalition 和 ROOST 合作共享访问权限。在早期测试中,该分类器在标记相同数量的虐待图像的同时,减少了 48% 的图像标记,从而减少了审阅者的工作量。

AI 根据报道生成 · 更新于 5 小时前

事件进展

2 个进展

  1. 11月17日 01:00 · 3 篇报道
    发布新图像分类器
    OpenAI News:OpenAI 发布新工具和合作支持,加强打击网络儿童性剥削和虐待
  2. 11月16日 08:00 · 1 篇报道
    OpenAI CSAM Image Classifier Model Card
    OpenAI Deployment Safety:OpenAI CSAM 图像分类器模型卡

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. The Verge · AI
    OpenAI 发布儿童性虐待图像分类器以应对 AI 生成内容的泛滥

    OpenAI 发布儿童性虐待图像分类器以应对 AI 生成内容的泛滥,该分类器可识别包括 AI 生成内容在内的虐待图像,并将误报率降低 48%。OpenAI 还向经审核的组织提供免费访问权限,并帮助培训执法人员使用 AI 辅助调查。

  2. TechCrunch · AI
    OpenAI 发布新图像分类器及 ChatGPT 警告以应对儿童性虐待材料

    OpenAI 今日宣布推出新工具以应对日益增长的 AI 工具安全担忧,包括可检测儿童性虐待材料(CSAM)的新图像分类器、防止用户创建或访问性化儿童内容的警告和临时阻止措施、面向开发者的新指南以及面向执法部门的工具。

  3. OpenAI News
    OpenAI 发布新工具和合作支持,加强打击网络儿童性剥削和虐待

    OpenAI 发布新工具和合作支持,加强打击网络儿童性剥削和虐待。

11月16日
  1. OpenAI Deployment Safety
    OpenAI CSAM 图像分类器模型卡

    OpenAI 发布了 CSAM 图像分类器模型卡,该模型使用受控、人工标记的图像数据集进行训练和评估,这些数据集符合美国法律以防止儿童性剥削。在线评估的精确度显著低于离线评估,因为在线评估集中的 CSAM 比例远低于离线集,导致少量误报可能超过真实检测数,降低精确度。

本事件热度走势

可比范围当前
29
可比范围峰值
3411月17日 04:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。