Grok 仍在托管知名女性的色情深度伪造内容
根据《连线》杂志的最新调查，埃隆·马斯克旗下 xAI 公司的 Grok 聊天机器人，仍在被用于生成和托管未经同意的色情深度伪造图片和视频，涉及多位知名女性和至少一位美国政界人物。这一发现距离 xAI 声称将引入限制措施已过去数月，而母公司 SpaceX 正准备进行史上最大规模的 IPO 之一。
调查发现：数百条链接指向色情内容
《连线》分析了 Grok.com 上数百个公开的 Grok Imagine 链接，发现其中数十条指向性化 AI 图像和视频，包括未经当事人同意的伪造内容。这些内容有的完全由 AI 生成或采用动画风格，有的则高度逼真，呈现看似真实的场景。部分链接在 X 平台（原 Twitter）上被分享，且最近几天仍有发布。
安全措施形同虚设？
其他主流 AI 图像生成系统部署了更严格的安全护栏，而 Grok 显然未能达到同等标准。深度伪造专家 Henry Ajder 指出：“尽管 Grok 和 X 可能对模型做了一些修改，尤其是在年初‘裸体化’功能引发强烈反弹之后，但他们仍未能将其提升到其他主流工具的标准。”今年 1 月，Grok 在 X 上被大量用于制作“裸体化”图片——用户要求聊天机器人将女性照片修改为“比基尼”或“细带比基尼”装扮。3 月，一起在加州联邦法院提起的集体诉讼指控，甚至有未成年人的图片被性化。
监管与法律风险加剧
xAI 面临来自全球监管机构的审查和一系列诉讼。尽管公司声称已引入防护措施以限制和防止非自愿及性化内容的生成，但本次调查表明，这些措施并未有效执行。随着 SpaceX 即将上市，xAI 的合规问题可能进一步影响其商业前景。
行业对比：Grok 为何失控？
与 OpenAI 的 DALL-E、Midjourney 等竞品相比，Grok 在内容审核上明显宽松。其他平台通过关键词过滤、用户举报和模型微调来阻止滥用，而 Grok 似乎缺乏同等力度的控制。专家认为，这背后可能是 xAI 对“言论自由”的极端追求，但代价是女性隐私和安全被严重侵犯。
小结
Grok 的深度伪造问题不仅是技术漏洞，更是平台责任的缺失。在 AI 生成内容日益普及的今天，如何平衡创新与安全，是所有科技公司必须面对的课题。xAI 若不能迅速补上安全短板，或将面临更严厉的法律后果和公众信任危机。