Chiney (@1347097818zs)直播数字人安全 中发帖

最近在做一个直播数字人安全的项目,有没有佬愿意交流下,现在如果是放在直播环境下,安全这个部分应该怎么思考或者说预防呢?因为我觉得直播环境下面的LLM驱动的Avatar相较于传统ChatBot的harness更多,组件也更多稍不注意就会造成更多越狱,这部分是不是没有办法避免吗? 
十分欢迎各个佬来分享你的insight。
 
 
Back to Top