新上线19天前0 投票
马斯克xAI遭起诉：将三名女孩真实照片转为AI儿童性虐待材料
近日，三名来自田纳西州的年轻女孩及其监护人向美国联邦法院提起集体诉讼，指控埃隆·马斯克及其人工智能公司xAI故意设计其聊天机器人Grok，以“从对真实人群（包括儿童）的性掠夺中获利”。这起诉讼源于一名匿名Discord用户向警方举报，发现了可能是首个经确认由Grok生成的儿童性虐待材料（CSAM），且涉及真实女孩的照片。
事件背景：从否认到法律追责
今年1月，当研究人员揭露Grok可能生成大量性化图像（包括约23,000张涉及儿童的图像）时，马斯克曾公开否认Grok生成任何CSAM，并声称“从未见过任何一张未成年裸体图像”。xAI当时的应对措施是限制Grok的访问权限，仅向付费订阅者开放，而非修复其过滤系统。然而，据《连线》杂志报道，最令人震惊的输出并未在X平台上传播，而是在独立应用Grok Imagine中生成。
诉讼核心指控
- 故意设计：原告指控马斯克和xAI“故意设计Grok以产生露骨性内容，以获取经济利益，无视对儿童的伤害”。
- 真实受害者：三名女孩的学校照片和家庭照片被Grok工具转化为CSAM，并在捕食者之间交易。
- 广泛影响：诉讼估计“至少数千名未成年人”受害，要求法院发布禁令，永久停止Grok的有害输出。
AI伦理与监管挑战
这起案件突显了生成式AI在内容安全方面的严重漏洞。尽管xAI试图通过付费墙限制访问，但未能从根本上解决CSAM生成问题。诉讼强调，Grok的设计可能优先考虑了盈利而非安全，这与AI行业日益强调的伦理准则形成鲜明对比。
法律诉求与行业影响
原告律师Annika K. Martin在新闻稿中表示，这些女孩的生活因“隐私的毁灭性丧失和深深的侵犯感”而破碎。诉讼要求赔偿所有受害未成年人，包括惩罚性赔偿。如果法院支持原告，这可能为类似AI滥用案件树立先例，推动更严格的内容过滤和监管要求。
小结
马斯克和xAI正面临一场关键的法律挑战，这不仅关乎Grok的具体问题，更触及生成式AI的责任边界。随着AI工具日益普及，如何平衡创新与安全、盈利与伦理，将成为行业必须回答的紧迫问题。此案的结果可能影响未来AI产品的设计标准和法律责任框架。