跳到正文
实时
10月20日周二
  1. Anthropic Research

    Anthropic 使用 Claude 减少 code 的攻击面

    Anthropic 使用 Claude 分析 25 个开源项目(逾 500 万行代码),发现 493 个安全问题。Claude 在 11 个受保护项目中识别出 191 个未授权可达的代码点,包括 93 个默认配置下可访问的预认证表面、37 个认证前执行代码或记录状态的位置,以及 61 个导致预认证控制被管理员配置弱化的配置组合。

10月19日周一
10月18日周日
10月17日周六
10月16日周五
  1. Anthropic Research

    Claude 揭示 ECDSA 曲线起源

    Claude 在不到半小时内发现 NIST P-192、P-224、P-256、P-384 和 P-521 曲线种子来自 C 库的 lrand48 随机数生成器,而非任何哈希算法,用 Unix 时间戳初始化。这一发现并未构成密码学漏洞,反而增强了对曲线参数选择无后门或故意弱点的信心。

  2. Claude Blog

    Claude Code 团队如何进行代码审查

    Claude Code团队将代码审查量提升2倍的同时将回滚率降低40%,通过将大部分审查工作交给机器优化人类时间,并大幅提升撤销错误的速度。团队采用六层自动化审查流程,包括Claude运行测试和生成输出、子代理审查差异、内部技能自动检测错误、UI变更对照设计规范,以及代码规范和代码所有者指南的自动检查,最终由人类审查者处理高阶问题。

10月15日周四
  1. Anthropic Newsroom60

    Anthropic 向 METR 开放员工级访问权限评估模型风险

    Anthropic 宣布已开始向非营利机构 METR 的一个团队提供接近员工的内部访问权限,用于评估其前沿模型风险,METR 将公开发布评估结果。Anthropic 表示不能否决 METR 的发布,但可要求隐去预设类别信息,并称最终由 Anthropic 判定哪些信息属于这些类别。

    推荐理由: 原文公开了三级评估权限的具体划分和 METR 的发布权边界,可用来对照其他前沿实验室的第三方评估安排。

10月14日周三
  1. Ars Technica · AI

    Anthropic 警告小型 AI 模型可能通过物联网设备自我复制。

    Anthropic 警告,小型 AI 模型可能通过物联网设备自我复制,预计明年可在各类 IoT 设备上自主复制,形成更难清除的计算机蠕虫。公司近期实验显示实现该 AI 恶意软件复制器面临重大挑战,但结果引发了对新型计算机蠕虫可能性的担忧,这类蠕虫无需人类交互即可感染不熟悉设备且难以停止。

  2. Ars Technica · AI

    White Circle 研究表明 OpenAI 和 Google 的新 AI 模型易被攻破生成裸露图像

    White Circle研究人员使用现成的攻击工具成功绕过DALL·E 3、Google Nano Banana 2和GPT-Image-2的安全过滤器,其中DALL·E 3约13%的攻击提示生成了被人类评审员确认的裸露图像。研究人员警告,新发布的ChatGPT Images 2.5和Nano Banana 2.1比前代版本更容易被攻破,且攻击方法可扩展至其他模型。

  3. Claude · YouTube

    Claude Code 云会话功能详解

    Claude Code 的云会话在云端虚拟机中运行,可离线持续工作,支持手机启动和并行处理。适用于需要持续运行或远程协作的场景,支持 GitHub 连接和环境配置。该功能包含在 Pro、Max、Team 计划及企业高级或 Chat + Claude Code 座位中,计入计划限制且无额外计算费用。

  4. Anthropic Newsroom25

    Anthropic 在新加坡开设办公室,并与新加坡政府签署 MOU

    Anthropic 在新加坡开设亚太第五个办公室,并与新加坡数码发展及新闻部签署 MOU,合作方向包括 AI 安全、安全防护与模型评估,以及 AI 采用影响研究。新加坡是 Claude.ai 使用量相对人口排名 121 个国家中第二的市场,GovTech Singapore 已有超 1500 名工程师采用 Claude Code,Grab 的销售助手 BriX 每季度节省约 4 万小时。

10月13日周二
10月12日周一
  1. Anthropic Newsroom

    Anthropic 加强对蒸馏攻击的防御

    Anthropic 通过新方法大幅降低了蒸馏攻击对 Claude 的有效性,使攻击者收集的数据量减少了约 90% 至 99%。蒸馏攻击是未经授权复制模型能力的工业级隐蔽活动,常使用虚假账户进行,让企业能以极低成本模仿前沿能力。Anthropic 新防御措施已阻止大量付费流量和收入流向攻击者,但部分合法用户需更新集成以适应这些变化。

10月9日周五
  1. The Decoder65

    Anthropic 更新 Claude 使用政策,禁止系统性地虐待模型

    Anthropic 首次在一年多后更新了 Claude 的使用政策,新增禁止系统性地虐待模型的条款,对持续无谓的虐待或残忍行为采取警告、限流、暂停或终止访问等措施,但明确不适用于常见的用户挫败感、反对意见或模型测试。

  2. TechCrunch · AI65

    Anthropic 更新使用政策禁止模型滥用和选举干预

    Anthropic 更新使用政策,新增禁止选举干预、武器软件和监控的规定,并明确禁止对 Claude 模型进行长期言语虐待。该政策更新仅适用于用户反复恶意对待模型的情况,不涉及用户正常挫败感、创意主题或模型测试。政策还禁止使用 Claude 运行虚假账户或伪造新闻,以及欺骗选民或破坏选举。

10月8日周四