拾雨 (@c519127) 在 xAI 罕见起诉一名 Grok 用户,因其滥用 AI 生成儿童性虐待图片、视频 中发帖
IT之家 7 月 16 日消息,据路透社报道,埃隆 · 马斯克旗下 AI 初创公司 xAI 对南卡罗来纳州男子特里 · 哈伍德提出诉讼。
哈伍德今年 2 月因涉嫌性剥削未成年人被捕,xAI 指控他滥用 Grok 生成儿童性虐待材料。当地时间周二,xAI 向得克萨斯州一家联邦法院提交诉状,指控哈伍德违反服务条款。
AI 公司主动起诉用户涉嫌利用 AI 生成色情内容的案例,此前极为少见。
诉讼提交之际,xAI 正因 Grok 的内容安全问题受到全球审视。外界指控 Grok 允许用户制作未经当事人同意的色情深度伪造内容,包括由 AI 生成、外观逼真的虚假视频。
xAI 在诉状中提到,公司会暂停或终止违规账户,并向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料,以执行平台规定。“事实上,原告已在 2026 年暂停 52222 个账户,并向美国国家失踪与受虐儿童中心提交 73604 份报告...