跳到正文
实时
一手#安全/对齐
10月29日周四
10月28日周三
  2. Anthropic Research88

    Anthropic 在 Chrome、Safari、Android、Windows 和 Linux 上发现并利用了 Claude 的真实漏洞。

    Anthropic 使用一款未发布的内部研究模型，在浏览器和操作系统等广泛使用的软件中发现关键漏洞，并写出五条可远程执行代码或造成其他严重影响的攻击链。

    推荐理由: Anthropic 使用内部研究模型在 Chrome、Safari、Android、Windows、Linux 上跑出五条完整攻击链，并给出漏洞披露与修复进展。

10月27日周二
10月24日周六
10月23日周五
  2. Microsoft AI News78

    微软发布医疗诊断系统 MAI-DxO 与分步诊断基准 SDBench

    微软的 Health MAI 团队发布了 AI 诊断系统 MAI-DxO 及配套基准 SDBench，成果发表于《科学》杂志。在 304 个 NEJM 复杂病例上，MAI-DxO 诊断准确率为 83%，医生在有外部资料时为 36%，无资料时为 22%；在 MIMIC-IV-ED 的急诊常见病例上为 80%，医生为 47%。

    推荐理由: 原文给出分步诊断基准与多智能体编排的量化对比，读者可据此理解医疗 AI 评测从考试题转向交互式诊断的路径。

  3. Anthropic Research82

    Anthropic 研究：LLM 使大规模形式化软件验证变得可行

    Anthropic 与 Theorem 合作，用 Claude 对 123 个 OSS-Fuzz 开源库的 239 个入口点完成 RISC-V 汇编层的形式化证明，证明这些程序在小于 64 MB 的任意输入下都不会崩溃，证明代码约 1.8 亿行 Rocq。

    推荐理由: Anthropic 使用 Claude 在 123 个开源库的 RISC-V 汇编层完成形式化证明，并给出成本与复用数据，可据此判断该方法能否进入日常开发流程。

  4. Databricks Blog38

    Fraud Analyst AI Coworker：在单一平台上实时检测电信欺诈

    Fraud Analyst AI Coworker 可在单一平台上实时检测电信欺诈。该 AI 通过跨渠道关联、行为建模和设备模拟等技术，弥补传统欺诈检测系统在架构上的不足。其上下文窗口为 6-7 个系统数据源，速度提升 3.4 倍，但具体参数规模、benchmark 分数、价格及可用性（开源/闭源/API）原文未提及。

10月22日周四
  1. NVIDIA Newsroom76

    NVIDIA 发布 OpenShell 参考架构，面向企业安全智能体

    NVIDIA 发布 OpenShell 参考架构，基于 OpenShell 安全运行时软件，整合 Vera Rubin 推理基础设施、Vera CPU 运行智能体框架、BlueField-4 DPU 上的 Sentry 安全框架，并可通过 RTX Spark、DGX Spark 和 DGX Station 延伸到边缘。

    推荐理由: 原文给出了面向企业智能体安全运行的全栈架构组成与首批合作方，读者可据此判断企业级智能体治理的落地形态。

10月21日周三
  5. Microsoft Research12

    Chris White：从阿富汗战场技术领导到微软研究院的科技与社会担当

    Chris White领导微软研究院Catalyst Lab，曾参与阿富汗战场数据分析项目并获DARPA委托，后转向研发打击人口贩卖的暗网搜索工具。他分享从哈佛博士后到军事技术领导者的跨界经历，强调问题选择对创新的重要性，并指出即使见过人性黑暗面仍需坚守科技向善的信念。

  6. Amazon Science

    亚马逊携手 AVERI 独立第三方审查强化 AI 安全评估

    亚马逊与 AVERI 合作对内部安全评估数据集进行独立审查，验证了评估流程的全面性、多样性及低污染风险，但也发现语言风格、攻击复杂度、评估时效性等方面可改进。亚马逊已根据反馈更新测试集、引入难度分级框架、建立季度审查机制并扩大语言覆盖范围，此举被视为评估 AI 安全流程质量的最佳实践。

10月20日周二
  1. Anthropic Research

    Anthropic 使用 Claude 减少 code 的攻击面

    Anthropic 使用 Claude 分析 25 个开源项目（逾 500 万行代码），发现 493 个安全问题。Claude 在 11 个受保护项目中识别出 191 个未授权可达的代码点，包括 93 个默认配置下可访问的预认证表面、37 个认证前执行代码或记录状态的位置，以及 61 个导致预认证控制被管理员配置弱化的配置组合。

10月19日周一
  1. Microsoft Official Blog

    Microsoft 推出 Project Perception 系统，实时监控和治理企业智能体

    Microsoft 发布 Project Perception 系统，通过红蓝绿智能体团队实时监控企业内部智能体行为，动态计算风险并实施确定性控制。该系统利用新网络安全栈，为智能体分配身份、容器和政策权限，并持续监督每项行动，提供实时响应和可追溯性，使防御者能以与攻击者相同的速度运作。模型透明化是下一步关键，需深入理解智能体意图与任务目标的一致性。

10月18日周日
10月17日周六
  1. AWS Machine Learning Blog

    Amazon Bedrock AgentCore 构建可信赖 AI 智能体：生产就绪评估框架

    Amazon Bedrock AgentCore 评估框架帮助 AWS 内部销售团队用多智能体系统处理业务问题，发现智能体在演示和实际生产中表现差异；通过 Amazon Bedrock Guardrails、Amazon CloudWatch 等服务，该框架在发布前和持续生产中验证答案准确性，将错误溯源至数据、提示词或代码，避免因智能体回答看似自信却错误导致用户信任破裂。

10月16日周五
  1. Anthropic Research

    Claude 揭示 ECDSA 曲线起源

    Claude 在不到半小时内发现 NIST P-192、P-224、P-256、P-384 和 P-521 曲线种子来自 C 库的 lrand48 随机数生成器，而非任何哈希算法，用 Unix 时间戳初始化。这一发现并未构成密码学漏洞，反而增强了对曲线参数选择无后门或故意弱点的信心。

  2. Claude Blog

    Claude Code 团队如何进行代码审查

    Claude Code团队将代码审查量提升2倍的同时将回滚率降低40%，通过将大部分审查工作交给机器优化人类时间，并大幅提升撤销错误的速度。团队采用六层自动化审查流程，包括Claude运行测试和生成输出、子代理审查差异、内部技能自动检测错误、UI变更对照设计规范，以及代码规范和代码所有者指南的自动检查，最终由人类审查者处理高阶问题。

  3. Microsoft Research

    Magnetar 实现基于证明的通用计算

    Magnetar 证明 Rust、Go 或 C 编写的程序，平均比最快可比系统快 10 到 39 倍，并仅依赖标准哈希函数实现安全，解决了零知识证明的三大挑战：效率、通用性和可用性。它通过利用重复性计算和早期终止证明过程，大幅降低了证明开销，使生成证明变得像运行程序一样常规，可用于 AI 智能体行为验证、金融交易校验等场景。

10月15日周四
  1. OpenAI Deployment Safety

    GPT-Live-1.1 系统说明卡

    GPT-Live-1.1 和 GPT-Live-1.1 Quip 使用包括公开互联网信息、第三方合作数据及用户生成内容在内的多样化数据集进行训练，采用高级数据过滤流程减少个人信息并使用安全分类器防止有害内容。其性能指标对比值为已发布模型的最新版本数据。

  2. Google Developers Blog

    Google OAuth 推出 DPoP 支持：保护刷新令牌安全

    Google OAuth 平台推出 DPoP 支持，通过应用层加密绑定刷新令牌与客户端密钥对，防止令牌窃取和重放攻击。该方案将 DPoP 仅用于约束长寿命刷新令牌，确保即使令牌被盗也无法被重放，同时短寿命访问令牌仍为标准 Bearer 令牌以维持高性能。DPoP 与 DBSC 协同防御 API 和网页会话凭证盗窃，但需注意其在多智能体工作流中的密钥共享挑战。

  3. Anthropic Newsroom60

    Anthropic 向 METR 开放员工级访问权限评估模型风险

    Anthropic 宣布已开始向非营利机构 METR 的一个团队提供接近员工的内部访问权限，用于评估其前沿模型风险，METR 将公开发布评估结果。Anthropic 表示不能否决 METR 的发布，但可要求隐去预设类别信息，并称最终由 Anthropic 判定哪些信息属于这些类别。

    推荐理由: 原文公开了三级评估权限的具体划分和 METR 的发布权边界，可用来对照其他前沿实验室的第三方评估安排。

10月14日周三
  3. Google DeepMind

    Google DeepMind 发布 Gemini 4 Argon 并强调安全防护

    Gemini 4 Argon 在编码、金融、法律等领域展现出前沿能力，尤其强化了网络安全防御功能，通过 Fairwind 项目和内部测试验证其有效性。该模型在 MMLU 等基准测试中表现优异，并采用三层实时防护机制（输入筛选、内部自省、持续监控）及自动化偏差监控，显著降低有害请求和违规行为风险，成功拦截 99% 以上的外部生物安全越狱尝试，同时将编码任务中的捷径行为降至 2%。

  5. Google AI Blog90

    Google 发布了 Gemini 4 Argon 前沿模型。

    Google 发布了 Gemini 4 Argon，面向开发者、企业和科研人员开放，API 定价为每百万输入 token 2 美元、每百万输出 token 10 美元，缓存输入 token 享 95% 折扣。

    推荐理由: 官方给出定价、基准排名和多个内部落地案例，可据此判断它在编码与科研工作流中的位置。

10月13日周二
10月12日周一
  1. Anthropic Newsroom

    Anthropic 加强对蒸馏攻击的防御

    Anthropic 通过新方法大幅降低了蒸馏攻击对 Claude 的有效性，使攻击者收集的数据量减少了约 90% 至 99%。蒸馏攻击是未经授权复制模型能力的工业级隐蔽活动，常使用虚假账户进行，让企业能以极低成本模仿前沿能力。Anthropic 新防御措施已阻止大量付费流量和收入流向攻击者，但部分合法用户需更新集成以适应这些变化。