Anthropic 开发 FlashProve 开源系统：用密码学证明 AI 输出来源

IT之家 11 月 4 日消息，Anthropic 正在开发一套开源系统，用于验证某一 AI 输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章，这套名为 FlashProve 的系统旨在实现研究人员所称的“可证明推理”（provable inference）：通过密码学证明，为特定输出提供数学层面的保证，证明其确实来自某个指定模型。借助这套系统，用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。

据IT之家了解，FlashProve 的工作原理类似于加密电子邮件签名。后者能够帮助收件人确认邮件是否确实来自其声称的发件人，而 FlashProve 则能够抵御试图将一个模型伪装成另一个模型的行为，即使实施伪装的正是开发并运行该模型的 AI 公司，也难以绕过验证。

研究人员特别指出，这套系统有望防止 AI 公司为了削减成本而暗中换用更便宜的模型，也可以避免企业偷偷换用更昂贵的模型，以人为抬高性能测试结果。

FlashProve 还可以用于验证第三方关于某项任务由先进模型完成的声明。研究人员写道：“开发者可能声称，他们的软件库已经由某个前沿网络安全模型扫描过漏洞；一家企业也可能声称，其商业计划已经获得了适当模型的认可。用户该如何验证这些说法？”

为了实现这一目标，AI 实验室需要为发布的每个模型提供一个“指纹”，之后便可以将其与特定输出进行匹配，并通过密码学方式验证其来源。

关键在于，这些指纹不会泄露模型权重，也就是决定模型行为的内部参数。Anthropic、OpenAI 等闭源模型开发商通常会将这些参数作为商业机密加以保护。因此，AI 实验室可以公开模型指纹，而无需放弃最有价值的资产，这也意味着 FlashProve 同样能够适用于商业闭源模型。

此外，该系统在设计上力求轻量化，用户可以直接在本地设备上完成验证。

作为此次发布的一部分，Anthropic 研究人员公布了详细的技术规范，以及系统各个组成部分的可运行代码。这些代码已在 GitHub 上以开源许可证公开。

目前，FlashProve 相关研究仍在进行中，Anthropic 尚未计划在自家或其他 AI 实验室部署这套系统。

研究人员在公告中解释称：“这篇研究文章旨在分享阶段性进展，而不是展示一项已经完成的研究计划。我们之所以公开这些成果，明确目的就是希望其他人能够审视我们的工作，在此基础上加以利用并进一步改进。”