Token导航 LogoToken导航

AI 资讯 · AIBase

Anthropic开发FlashProve验证AI输出来源

更新 2026-11-04AIBase正文 520字阅读约 2分钟

Anthropic 正开发开源验证系统 FlashProve,目标直击一个痛点:你收到的 AI 回答,到底是不是你以为在用的那个模型生成的。公司周二博客称,它要做的"可证明推理",是用密码学为每条输出出具数学保证,证明确实出自指定模型——就像加密邮件签名帮收件人确认发件人,FlashProve 专门防备"把甲模型伪装成乙模型"。

堵住成本作弊暗门,也拆穿"注水"成绩单

研究人员点破长期潜规则:有了它,AI 公司难以为省成本在后台偷偷把贵模型换成廉价版;反过来,企业也没法暗中将便宜模型伪装成高价型号、人为抬高跑分。它还能核验第三方宣传——比如某开发者声称代码库已被前沿安全模型扫过漏洞,或某公司商业计划得了相应模型背书,用户从此有了追问"凭什么信你"的抓手。

指纹公开、权重不泄,本地设备就能验

关键设计:AI 实验室只需为每个模型提供一枚"指纹",再把输出与之匹配、密码学验证来源;指纹不会泄露模型权重——那串决定行为的内部参数,正是闭源命根子。实验室可公开指纹而不交核心资产,FlashProve 也就能适配商业闭源模型。系统刻意做轻,用户本地即可验证。Anthropic 已放出技术规范与可运行代码(GitHub 开源),但强调研究仍在进行,暂未打算自部署。

文章标签Anthropic

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。