生物武器威胁早已存在，AI 只是冰山一角
生物武器威胁早已存在，AI 只是冰山一角
当我们还在为 AI 可能引发的人类灭绝而焦虑时，生物武器的阴影其实早已笼罩。最近，关于 AI 驱动灾难的讨论不绝于耳：AI 可能引发第三次世界大战，AI 代理可能发动大规模网络攻击，甚至可能帮助坏人释放生物武器。但事实上，即使没有 AI，生物武器的威胁也足以让我们警惕。
AI 与生物武器的现实关联
本月早些时候，Anthropic 发布的一份“滥用”报告披露了五起外国科学家试图绕过 Claude 的防护措施，进行“功能获得”（gain of function）研究。所谓功能获得，是指科学家通过修改病原体的基因，使其更具传染性、致命性或更易在哺乳动物间传播。Anthropic 拒绝了这些用户的请求并封禁了账户，同时指出他们的动机可能并非恶意——这类信息也可用于开发疫苗和药物等应对措施。
这揭示了包括 AI 在内的许多技术的共同困境：基因工程既能造福人类，也能带来灾难。这就是所谓的“双重用途”。
生物武器的威胁并非理论
我本人接受过分子生物学训练，在 AI 成为焦点之前就一直在报道功能获得研究的争论。根据我的经验，研究高风险病原体的科学家往往倾向于认为，发表研究比不发表更好，我们最好通过研究来了解哪些基因特征会使生物体对人类构成威胁——尽管意外或故意释放可能带来灾难性后果。
人类真的会因此变得更好吗？我对此表示怀疑。
安妮·雅各布森的新书《生物战争：一种场景》
在阅读了安妮·雅各布森的最新著作后，我的疑虑更深了。我曾就她的畅销书《核战争：一种场景》采访过她。她的新书《生物战争：一种场景》于 7 月底出版，遵循了相同的模板。
雅各布森在书中甚至没有讨论 AI，因为科学家已经能够扭曲大自然，制造出灭绝级别的事件。这提醒我们，生物武器的威胁并非未来时，而是现在进行时。
我们该如何应对？
面对生物武器的威胁，我们需要：
- 加强监管：对功能获得研究进行更严格的审查，确保其安全性和透明度。
- 国际合作：生物威胁无国界，全球协作至关重要。
- 公众意识：提高对生物武器风险的认识，推动政策变革。
AI 或许会放大这些风险，但即使没有 AI，生物武器的威胁也足以让我们警惕。雅各布森的书提醒我们，是时候正视这个早已存在的危机了。
