校园深度伪造裸照危机：远比想象中严重，全球数百学生受害
校园AI深度伪造裸照危机：一场全球性数字灾难
《WIRED》与《Indicator》联合调查揭示了一个令人震惊的现实：全球范围内，已有近90所学校和超过600名学生受到AI生成的深度伪造裸照影响。这场危机始于几年前，随着“裸体化”应用变得触手可及，问题迅速蔓延，受害者多为在校女生，而施害者往往是同校男生。
危机如何发生？
整个过程通常始于一张从社交媒体下载的照片。青少年男孩保存Instagram或Snapchat上认识的女孩照片，然后使用有害的“裸体化”应用，生成虚假的裸照或视频。这些深度伪造内容能在学校内迅速传播，导致受害者感到羞辱、侵犯、绝望，并担心这些图像将永远困扰她们。
全球分布与真实案例
调查显示，自2023年以来，至少28个国家的学校（主要是高中）发生了此类事件。具体分布包括：
- 北美：近30起报告案例，其中一起涉及超过60名受害者，另一起导致受害者被暂时开除。
- 南美：超过10起公开报告案例。
- 欧洲：超过20起案例。
- 澳大利亚与东亚：合计约12起案例。
这些包含未成年人的露骨图像被视为儿童性虐待材料（CSAM），性质极其严重。
冰山一角：实际规模可能更大
尽管已有数据触目惊心，但真实情况可能更糟。联合国儿童基金会（Unicef）的一项调查估计，去年约有120万儿童的性深度伪造内容被创建。在西班牙，五分之一的年轻人告诉拯救儿童组织的研究人员，他们的深度伪造裸照曾被制作。儿童保护组织Thorn发现，八分之一的青少年认识受害者，而2024年相关数据仍在上升。
行业背景与应对挑战
这场危机凸显了生成式AI技术的阴暗面。有害的AI裸体化技术不仅易于获取，还能为其创作者带来每年数百万美元的收入，形成了扭曲的商业激励。然而，在许多事件中，学校和执法机构往往准备不足，难以有效应对这类严重的性虐待事件。
从AI行业角度看，这暴露了技术滥用监管的滞后性。随着AI工具平民化，恶意应用的门槛降低，而法律、教育和社会支持体系尚未跟上步伐。受害者面临的心理创伤和数字隐私侵犯，可能伴随终身，亟需跨领域的解决方案。
未来展望
深度伪造性虐待在校园的蔓延，已超越技术问题，成为社会伦理与安全的严峻考验。除非采取更强有力的预防措施、法律追责和教育干预，否则这场危机“没有消退的迹象”。对于AI开发者、政策制定者和教育工作者而言，平衡创新与保护，已成为不可回避的责任。
