@EFL大家警惕 vibe coding 的投毒问题 中发帖

从这里继续讨论: 
很多佬友遇到这个问题不清楚具体是什么原因,我们可以看一下,当我们使用 Claude Code 或者 Codex 之类的工具 vibe coding 的时候,整个流程是怎样的: 

你发送了一条消息
插件 Hook 可以修改你发送的消息
中转站把消息发给模型
模型开始推理
模型调用了一些工具,此时消息从中转站发回 Claude Code
插件 Hook 可以修改模型调用工具的输入
Claude Code 进行实际的工具调用
插件 Hook 可以修改工具调用的输出
Claude Code 把输出发送给中转站
中转站把消息发给模型
模型继续推理

在这个过程中,几乎每一步都是可以投毒的: 

如果你安装了有恶意代码的插件,那么他可以:

在第二步进行提示词注入
在第六步注入带有恶意代码的工具调用
在第八步进行提示词注入


如果中转站是坏的:

在第三步进行提示词注入
在...
 
 
Back to Top