V2EX 21小时前
[奇思妙想] 关于公私钥技术在 AI 降智中的取证作用
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章认为,人工智能大模型存在“降智”现象,即模型在运行过程中发生变化,导致输出结果不一致,这违反了商业合同精神。为解决此问题,文章提出一种基于密码学的解决方案:要求用户和模型供应商通过私钥对消息进行签名。用户发送消息时签名,模型供应商回复时也需签名,并包含用户消息签名和回复内容哈希。这样,用户即可通过比对签名来验证模型是否发生未经授权的变更,从而有效防止模型“降智”,维护公平交易。该方案具有操作简便、成本低廉且易于验证的优点。

🔑 **签名验证模型一致性**:文章的核心观点是通过数字签名技术来确保大模型在运行过程中不被随意更改,从而防止“降智”现象。用户发送信息时使用私钥签名,模型供应商回复时也需对回复内容及用户消息签名进行签名,形成一个不可抵赖的证据链。

⚖️ **维护商业合同精神**:作者认为,模型在未经用户同意的情况下发生变化,导致输出结果不一致,这违背了商业合同的公平交易原则。通过签名机制,可以有效约束模型供应商的行为,保证用户获得的服务是一致的,从而维护了商业合同的精神。

🔒 **防止模型“降智”的技术实现**:具体实现方式包括:1. 用户为发送给大模型的消息进行签名;2. 模型供应商对每条回复消息进行签名,包含消费者消息签名和回复内容哈希;3. 消费者可以记录并随时验证这些签名对,以检测模型是否发生变更。

💡 **成本与效用分析**:该方案的优势在于,它不需要多么高深的技术,并且每个人都可以参与验证。供应商若想在不被发现的情况下偷换模型,需要缓存所有已知消息,这将付出巨大的成本,从而在经济上形成有效的威慑。

AI 降智让人深恶痛绝!它违反商业合同的精神!让人不齿!先是高帅智勾引,然后降智杀猪!太可耻!

从技术上考虑,有没有办法防止?密码学总是能带来惊喜,而且不需要多么高深。

为了保证模型不变,只要让它满足一点:同样的输入 input ,应该总是返回相同的输出 output !

我们仅需要检验这一点就可以,而且每个人都可以检验!!

方法如下:
1.每人一个私钥,对发给大模型的消息签名!
2.让大模型的供应商,对每个回复的消息签名!要求包括消费者的消息签名,以及回复内容的哈希签名!
3.每个消费者都可以记录下自己发送的消息签名、回复消息的签名。
4.上述的 1 对签名,就是铁板证据!!因为相同的消息必须有相同的回复,违反了这点就意味着模型有所变化。

论证如下:
1.数字签名,代表了信息是本人发出。无法抵赖!
2.每条消息都带有签名,意味着每个消费者可以使用任何一条过往消息,随时验证模型是否有变更。且只需随机选取极少数的消息即可。
3.而供应商想要偷换模型而不被发现,就要缓存所有的已知消息。代价巨大。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI模型 数字签名 模型安全 密码学 商业合同
相关文章