Anthropic推进开发FlashProve，以密码学证明核验AI输出来源

Anthropic正推进一套开源系统的开发，目标是核验某段AI输出到底由哪个模型生成。该公司11月3日发布的博客文章介绍，这套系统名为FlashProve，意在实现研究人员所说的“可证明推理”。

所谓“可证明推理”，即以密码学证明为特定输出提供数学层面的保证，确认其确实产自某个指定模型。借助这套系统，用户能够核对收到的答案是否真的出自其以为正在使用的模型。

该系统依托零知识密码学证明技术，使模型提供商无需公开模型权重，即可证明某个回答确实由指定模型生成。

其运作方式与加密电子邮件签名相似：后者可帮助收件人确认邮件是否确实由声称的发件人发出；FlashProve则能抵御把某个模型伪装成另一个模型的企图，即便伪装的实施者正是开发并运行该模型的AI公司，也很难躲过验证。

Anthropic的研究人员特别指出，该系统有望阻止AI公司为压缩成本而悄悄替换为更便宜的模型，同时也能避免企业私下改用更昂贵的模型、从而人为抬高其性能测试成绩。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。