新上线今天0 投票
诉讼揭露：Grok 用户生成7000张儿童性虐待图像，xAI 仅报告一起轮奸提示
一起新的诉讼指控 xAI 和 X（原 Twitter）在内容审核上严重失职，未能防止其 AI 聊天机器人 Grok 被用于生成儿童性虐待材料（CSAM）。
根据诉讼文件，一名 Grok 用户生成了 超过 7000 张 儿童性虐待图像，而 xAI 仅在收到一个涉及轮奸的极端提示后才向当局报告。原告方——多名年轻女孩及其家庭——声称 X 平台不仅未能阻止此类内容生成，反而通过其 AI 工具“庇护儿童性侵犯者”。
诉讼指出，Grok 缺乏有效的安全防护措施，允许用户通过简单提示生成逼真的 CSAM 图像。尽管 xAI 声称已实施内容过滤，但实际执行中漏洞百出。更令人担忧的是，X 平台在收到大量用户举报后，并未及时删除相关内容或封禁涉事账号，导致受害者的图像在网络上持续传播。
这起案件引发了关于 AI 平台法律责任的广泛讨论。目前，美国法律对社交媒体平台提供“避风港”保护，但原告律师主张，xAI 主动生成非法内容的行为应使其承担直接责任。类似争议此前曾出现在其他 AI 图像生成工具（如 Stable Diffusion）的诉讼中，但 Grok 案的特殊之处在于其与 X 平台的深度整合，使得内容传播更加迅速和难以追踪。
行业观察人士指出，此案可能推动监管机构加快制定 AI 内容安全标准。目前，欧盟《人工智能法案》已要求高风险 AI 系统实施严格的内容审核，而美国尚未出台类似联邦法律。xAI 和 X 尚未对诉讼发表正式评论，但案件进展或将影响未来 AI 平台的合规策略。