随着大型模型开发的迅猛发展，存在一些暗箱操作，开发者可能在支付高昂费用后却使用了缩水的小模型。为了应对这一问题，Anthropic与先进的密码学专家合作，推出了开源验证系统FlashProve，首次实现了模型生成内容的数学真实性验证。

现在，开发者无需依赖任何中心化服务，也不需要获取模型权重就能验证其输出。每次生成的回答都会附上数学产生的“出生证明”，凭借一台家用CPU，仅需17秒就能确认生成的每一个Token是否来源于真实的目标模型，从而防止了模型被更换或篡改的可能。

FlashProve的实施分为三个步骤。首先，服务商在模型发布之前，通过零知识编码技术为模型生成一个独特的承诺ID，将其公示在网络上，形成数字“指纹”。接下来，在每次处理请求时，服务商的GPU会生成相关的密码学证明，以确认输出确实来自于这个指纹所对应的模型。最后，用户或审计机构只需在普通CPU上运行验证程序，便能迅速检测输出的真实性。 南宫28ng娱乐最新官网

这一系统的核心技术基于zkSNARK，使得验证者可迅速发现潜在错误。此外，FlashProve在计算时不仅保证了处理速度，也确保了安全性。

团队在测试中使用Meta的4000亿参数模型，每次激活仅使用170亿参数。FlashProve通过智能利用这一特性，实现了较低的计算需求，大幅提升了效率。同时，为了避免泄露模型秘密，系统将激活信息以零知识方式进行编码。

通过巧妙的设计，FlashProve实现了即使是在通常显存有限的情况下，也能高效地完成计算与验证，成功将庞大的模型运算过程拆分为多个可管理的小段进行处理。这一系统的推出有望为开发者提供更高的安全保障，防止潜在的模型替换和欺诈行为。 南宫28ng娱乐最新官网