跳到正文
TechCrunch · AI· Russell Brandom·· 3 小时前AI 评分60

Anthropic 开发 FlashProve 用密码学证明 AI 输出来源

Anthropic is working on a system to prove AI models’ identity

AI 导读

Anthropic 正在开发开源系统 FlashProve,通过密码学证明(provable inference)确认某输出确实来自特定模型,类似加密邮件签名,可抵御冒充者,包括模型本身所属实验室的伪装。指纹不暴露模型权重,因此商业模型也可使用;系统轻量,可在本地设备验证。Anthropic 已发布技术规范和可运行代码,在 GitHub 以开源许可公开,暂无在实验室部署的计划。

来源:TechCrunch · AI · techcrunch.com