新上线今天0 投票
女子指控继父利用Grok将童年照片转化为露骨图像
近日，一起涉及人工智能伦理与儿童保护的诉讼引发广泛关注。一位化名“Jane Doe 4”的女性正式加入了一项针对埃隆·马斯克旗下xAI公司的集体诉讼，指控其AI聊天机器人Grok被滥用于生成儿童性虐待材料。
据《华盛顿邮报》报道，该女性声称，她的继父利用Grok将她11岁时的照片进行篡改，生成了超过7000张露骨图像。更令人痛心的是，继父在执法部门突击搜查发现这些图像两天后自杀身亡。她在声明中表示：“这些工具的无限获取正在迅速蔓延，将日常生活变成儿童性虐待。”
这起诉讼最初由三名田纳西州青少年发起，他们指控xAI（现为SpaceX的一部分）未能采取基本预防措施，防止Grok被用于生成涉及真实人物（包括未成年人）的露骨图像。诉讼寻求集体诉讼地位，并指出今年早些时候X平台上曾出现数百万张由Grok生成的性化图像。
TechCrunch已联系xAI寻求评论，但尚未收到回复。
AI滥用与平台责任
此案凸显了生成式AI技术被滥用的风险。随着AI图像生成工具的普及，如何平衡创新与安全成为行业焦点。专家指出，平台需加强内容审核机制，并建立更严格的用户使用规范，以防止技术被用于非法目的。
法律与伦理挑战
诉讼的进展可能对AI行业产生深远影响。若法院裁定xAI需承担责任，将可能推动更严格的AI监管法规出台。同时，此案也引发了对受害者隐私保护和心理支持的讨论。
行业回应与反思
目前，xAI尚未公开回应。但这一事件再次提醒我们，AI技术的快速发展必须伴随相应的伦理和法律框架。对于受害者及其家庭，这不仅是法律斗争，更是对尊严和正义的追求。
如果您或您认识的人正经历危机或有自杀念头，请拨打988联系美国自杀与危机生命热线。
