qybaihe 在 【开源推广】REA大行其道,作为独立开发者,我的方案是绕晕它! 中发帖

▶ 
本帖使用社区开源推广,符合推广要求(点击展开申明)

自从我的 app 的功能被别人几下就抄出来复刻之后,我就在想怎么报复回去。 
通过几轮和AI的斗智斗勇想到,能不能通过二进制投毒让 rea 拿到错误信息,然后构造一堆非常相似的函数浪费攻击者的 token,最后超出预算停掉;针对闭源大模型还可以埋点蜜罐,比如刻意夹带一些逼真的假密钥等敏感词触发模型安全拦截让它自己停下来,或者塞一堆假系统报错引导 AI 转头去排查环境问题。 
有了初始思路,就让 opus 和 argon 按照这个思路搓了一个防守端针对 rea 的项目,用起来跟 rea 一样方便,就叫 bla 吧 —— re 是 red,那 bl 就是 blue。 
目前做的模拟红蓝测试基本都防住了 
抛砖引玉,未来防守端也一定是大事情,欢迎有想法的佬友来共创: 
GitHub - qybaihe/bla: 🛡 BLA (Blind L...
 
 
Back to Top