Z念两世 (@Z_kobe)想咨询下大家是如何规范敏感词的限制的? 中发帖

目前使用的是 new-api + CPA 框架搭配,new-api 中的敏感词机制不太适用,比如如果你添加了“注册机”,如果用户的 prompt 是“注册机制”,其实也会匹配上,以及英文的“DAN”,那就会更加夸张了,任何单词中包含有 DAN 字段的都会匹配上。咨询了 CPA 作者,目前还没有类似的插件,如果自行开发的 CPA 插件的话,有什么比较好的思路吗?
 
 
Back to Top