Anthropic正开发开源系统FlashProve，用密码学证明AI输出来源

11月4日消息，据IT之家报道，Anthropic正在开发一套名为FlashProve的开源系统，通过密码学证明验证某一AI输出究竟由哪个模型生成。该系统旨在实现“可证明推理”，为用户提供数学层面的保证，确认收到的答案确实来自其认为正在使用的模型，并抵御将一个模型伪装成另一个模型的行为。 FlashProve工作原理类似加密电子邮件签名，可为每个模型提供不泄