Meta监督委员会：Meta的深度伪造内容审核“不够好”，需全面改革AI标签系统
Meta监督委员会近日发布报告，严厉批评Meta在识别和标记AI生成内容（特别是深度伪造）方面的现有措施“不够稳健或全面”，尤其是在武装冲突等高风险情境下，无法有效遏制虚假信息的快速传播。这一批评源于对去年在Meta平台上传播的一则虚假AI视频（声称显示以色列建筑受损）的调查，而委员会强调，鉴于本周中东地区“大规模军事升级”，其建议在当前显得尤为紧迫。
核心问题：过度依赖用户自报与人工审核
Meta监督委员会指出，Meta当前的AI内容标签系统过度依赖用户自我披露AI使用情况，以及依赖人工审核的升级流程。这种模式在当今快速演变的在线环境中已显不足。委员会认为，在像伊朗战争这样的武装冲突期间，错误信息传播速度极快，Meta现有的方法无法跟上节奏，从而危及用户安全——因为获取准确、可靠的信息对人身安全至关重要。
案例揭示跨平台传播挑战
引发此次调查的案例突显了深度伪造内容跨平台增殖的复杂性。该虚假AI视频最初似乎源自TikTok，随后才出现在Facebook、Instagram和X（原Twitter）等Meta平台上。这种跨平台传播模式使得单一平台的审核努力往往事倍功半，需要更系统化的行业协同应对。
具体改革建议
监督委员会向Meta提出了一系列具体建议，旨在从根本上提升其AI内容治理能力：
- 完善现有错误信息政策：要求Meta修订其现有关于错误信息的规则，明确涵盖欺骗性深度伪造，确保政策能直接针对AI生成的误导性内容。
- 建立独立的AI生成内容社区标准：建议Meta制定一个全新的、专门针对AI生成内容的社区标准，与现有内容政策区分开来，以更精准地规范此类新型内容。
- 开发更先进的AI检测工具：呼吁Meta投资研发更强大、更可靠的AI内容检测技术，减少对用户自报的依赖，实现更主动的识别。
- 提高政策违规处罚透明度：要求Meta公开其对违反AI内容政策的用户所采取的处罚措施，增强治理过程的透明度和问责制。
- 规模化应用AI内容标签：特别强调Meta需要大规模部署AI内容标签系统，包括采用如C2PA（内容来源和真实性联盟） 等技术标准，以实现内容来源的追溯和验证。
行业背景与深层意义
Meta监督委员会的此次发声，正值全球AI生成内容（尤其是视频深度伪造）泛滥，对信息生态构成严峻挑战之际。从OpenAI的Sora等视频生成模型展现的逼真能力，到各类深度伪造在政治、社会事件中的滥用，检测与治理已成为科技公司的核心责任。委员会的报告不仅是对Meta的督促，也反映了整个行业在内容审核范式上亟需从“被动响应”转向“主动防御”。
将AI标签规模化、标准化（如通过C2PA），被视为建立数字内容可信度的重要技术路径。然而，这也对平台的计算资源、算法精度和用户体验设计提出了更高要求。
小结
Meta监督委员会的报告是一次明确的警示：在AI生成内容日益普及的时代，平台的内容审核机制必须与时俱进。单纯依赖用户自觉和事后人工审核已无法应对深度伪造等新型威胁，尤其是在冲突地区等高风险场景下。Meta能否积极响应，改革其AI标签与检测体系，不仅关乎其平台的信誉，更直接影响全球数十亿用户的信息安全与信任。