跳到正文
实时
热点事件历史事件

Anthropic 开源可验证推理原型 FlashProve

5 篇报道5 个报道来源14 天前更新

先了解这件事

AI 综述

Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 证明某条回复确实由所承诺的模型权重生成,且不泄露权重。在 400B 参数的 Llama 4 Maverick(4-bit 量化)上,单张 H100 生成证明约 110 tokens/秒,每 1,024 token 请求的证明约 19 MB,CPU 验证约 17 秒;The Decoder 称,相比正常推理,生成证明的开销约为 70 至 95 倍。 该原型目前仅支持最长 1,024 token 的上下文、贪心解码和 MoE 模型;生成证明需 1 张 H100 80GB、24 核 CPU 和约 290 GB 主机内存,验证只需 CPU。代码、Lean 证明和文档以 Apache 2.0 许可开源。 TechCrunch 和 IT之家 称,系统要生效还需 AI 实验室为每个模型发布“指纹”供匹配验证,用于防止模型被伪装或替换;IT之家 称研究仍在进行、尚未部署。

AI 根据报道生成 · 更新于 14 天前

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. The Decoder
    Anthropic 发布 FlashProve 原型,通过密码学验证 AI 响应是否来自声称的模型

    Anthropic 发布了 FlashProve 原型,使用 zkSNARK 技术验证 AI 响应来源,不暴露模型权重。该系统在 H100 GPU 上为 400B 参数的 Llama 4 Maverick 生成证明的速度约为 110 tokens/秒,证明大小约 19 MB,验证耗时 17 秒,但相比正常推理有 70x-95x 的开销。

  2. IT之家 · AI
    Anthropic 开发 FlashProve 开源系统:用密码学证明 AI 输出来源

    Anthropic 正开发名为 FlashProve 的开源系统,通过密码学证明 AI 输出确实来自指定模型,类似加密邮件签名。该系统可防止 AI 公司暗中换用不同模型,验证第三方关于模型使用的声明,且不泄露模型权重,支持闭源模型,代码已开源至 GitHub。目前研究仍在进行中,尚未部署。

  3. TechCrunch · AI
    Anthropic正在开发名为FlashProve的系统以验证AI模型的身份

    Anthropic发布开源系统FlashProve,通过密码学证明确保特定输出来自指定AI模型,防止模型伪装或替换;系统需AI实验室发布模型指纹用于验证,不泄露模型权重,代码已开源。

  4. MarkTechPost精选
    Anthropic 开源 FlashProve:用 zkSNARK 证明回复来自已承诺权重

    Anthropic 的前沿红队发布了开源研究原型 FlashProve,该原型使用 zkSNARK 证明某条回复由已承诺的模型权重生成,且不泄露权重信息。在 Llama 4 Maverick(400B MoE)上,单张 H100 的证明速度约为 110 tokens/s,证明体积为 18.78 MB,CPU 验证耗时 17 秒。

11月2日
  1. Anthropic Research精选
    Anthropic 发布可验证推理系统 FlashProve,单张 H100 上约 110 tokens/秒生成证明

    Anthropic 公布可验证推理原型 FlashProve,用 zkSNARK 证明响应确实来自所承诺的模型权重。对 400B 参数的 Llama 4 Maverick(4-bit 量化),单张 H100 生成证明约 110 tokens/秒,每 1,024 token 请求的证明约 19 MB,验证在 24 核 CPU 上约 17 秒。