生成式AI的“迷魂汤”尝起来像优生学
当OpenAI在2024年首次向公众发布其文本到视频生成式AI模型Sora时，导演瓦莱丽·维奇（Valerie Veatch）和许多人一样，被这项技术所吸引。尽管她并不完全理解其背后的原理，但她对它能做什么感到好奇，并看到其他艺术家正在建立在线社区来分享他们的新AI创作。
然而，维奇很快发现，这项技术常常在没有明确提示的情况下，生成充满种族主义和性别歧视的图像。更令她不安的是，她周围那些AI爱好者似乎对此毫不在意。这种怪异的状况不仅让她远离了早期的生成式AI实验，更促使她拍摄了纪录片《机器中的幽灵》（Ghost in the Machine）。
从好奇到警惕：一位导演的AI觉醒
维奇最初被生成式AI吸引，是希望借此与创意社群连接。但当她深入其中，看到的却是技术不加掩饰地输出偏见内容。她指出，许多AI爱好者对这种现象视而不见，甚至将其合理化，这让她感到震惊。这种“集体盲视”促使她追问：为什么AI会这样工作？它的根源是什么？
揭开“人工智能”的营销面纱
在与记者的视频通话中，维奇直言不讳地批评了行业对“人工智能”这一概念的刻意模糊化。她说：“为了使用‘人工智能’这个词，我们必须知道这他妈到底是什么意思。事实是，它没有任何意义；它一直是一个营销术语，完全具有误导性。”
她认为，这种模糊性让公众难以理解技术的本质，也掩盖了其背后可能存在的伦理问题。
追溯历史：种族科学与AI的隐秘联系
《机器中的幽灵》没有聚焦于生成式AI加速主义者所鼓吹的、遥不可及的社会效益，而是深入挖掘了这项技术的历史根源，试图解释它为何以当前的方式运作。
影片揭示了一个关键论点：现代生成式AI的发展，其思想基础部分植根于历史上的种族科学（race science）和优生学（eugenics）思潮。这些思潮试图通过数据分类、优化和筛选来定义“理想”的人类特质，而今天的AI系统，在数据训练、模式识别乃至内容生成上，都不自觉地继承了类似的逻辑框架——尽管表现形式更为隐蔽和技术化。
行业炒作与公众认知的脱节
维奇希望通过这部纪录片，记录生成式AI的起源，让人们对当前所处的“行业炒作狂热周期”有一个清晰的认识。她指出，在技术光环和营销话术的包裹下，公众往往只看到AI的“创造力”，却忽略了其训练数据中可能固化并放大的社会偏见，以及背后可能存在的危险思想遗产。
启示：我们需要怎样的AI对话？
维奇的探索提醒我们，对生成式AI的讨论不能仅停留在“它能做什么”的功能层面，更需要深入“它为什么这样做”的历史与伦理层面。当技术以“智能”和“创新”之名快速推进时，批判性地审视其思想源流、数据构成和输出影响，变得尤为重要。
《机器中的幽灵》的价值，或许就在于它撕开了技术中立的神话，迫使观众面对一个 uncomfortable truth：我们正在饮用的生成式AI“迷魂汤”，其配方中可能混合着一些我们不愿承认的历史毒素。 要真正负责任地发展AI，或许首先需要诚实面对它的全部过去。