刚刚,Anthropic开源FlashProve,给大模型办了一张「防伪身份证」
刚刚,Anthropic 发文宣称 「大型语言模型的可验证推理取得新进展」,并开源了一个名为 FlashProve 的系统。 它基于零知识密码学证明技术,让模型提供商能够在不公开模型权重的情况下,证明某个回答确实由指定模型生成。 什么意思? 平时,你花钱调用的 AI 真的是服务商承诺的那个模型吗?假设一家企业购买了顶级大模型的 API 服务,服务商承诺使用的是能力最强的模型,却在后台悄悄换成一个成本更低的小模型,用户能发现吗? 又或者,第三方模型路由平台在转发请求时,偷偷替换了原本指定的模型,即使最终返回的回答质量不错,用户又有什么办法证明它确实来自自己


