haiyang4249 在 为什么所有大模型都不支持隐私传输? 中发帖
对于任意中转站来说,基本就相当于网络安全中的中间人角色,可以很轻松对用户实施中间人攻击,包括但不限于以下:
数据窃取(拿用户的输入输出做蒸馏)
篡改回复(使用钓鱼或恶意第三方库)[例如使用reqeusts代替requests对用户进行攻击]
模型欺诈(使用掺水/降智模型替代原有模型)
Agent调用(使用伪造指令调用本地MCP/Agent)
尤其是 Agent 调用,对于本地习惯授予完全权限的用户来说是极端危险的。那么为什么没有大模型厂商做隐私传输呢?做一个公私钥非常简单,对服务器也没什么压力。
而且对于真正想要攻击用户的人来说,攻击中转站简直是一本万利,相当于截取了这一条供应链,所有中转站的用户全都遭受风险。而且攻击一个中转站实在也是太简单了,对于使用开源项目直接部署在无防护一个小鸡的中转站来讲,我觉得不怎么熟悉网络安全的人使用opus4.6都有可能攻...