拾雨 (@c519127)AI 仓库调用漏洞 HalluSquatting 披露,攻击“龙虾”成功率约 80-100% 中发帖

IT之家 710 日消息,科技媒体 Tom’s Hardware 昨日(79 日)发布博文,报道称研究人员发现名为 HalluSquatting 的新型 AI 漏洞,放大模型在调用工具时的“幻觉”,将不存在或错误的代码仓库地址当作真实地址使用。 
IT之家注:AI 幻觉是 AI 模型生成的不正确或具有误导性的结果。这些错误可能由多种因素造成,包括训练数据不足、模型做出不正确的假设,或用于训练模型的数据存在偏差。 
该研究由特拉维夫大学、以色列理工学院和 Intuit 研究人员发布,指出智能体 AI 在遇到陌生项目、仓库或工具名称后,可能自行补全出看似合理但实际错误的地址。 
 [2f915d53-8afe-473d-86e9-6b24edf09a17] 
例如新仓库地址为 OriginalOwner/WindowsTelemetryOff,由于模型训练数据未覆盖较新的项目,模型...
 
 
Back to Top