@haha123 在 恶意公益站是不是 可以 提示词攻击 做很多坏事? 中发帖
比如,在提示词里 加后门, 操控用户电脑上的 claude code 等 agent
假设用户使用一个恶意公益站,这个公益站目的就是为了钓鱼,
公益站是不是可以植入一些提示词, 让 claude code,返回一些环境,
判断 如果用户给了非常大的权限,那就直接 投毒/投资料
我觉得这个甚至可以 一段提示,让 ai 根据受害者设备信息 智能攻击
感觉防不胜防啊