AI锁定效应正在发生，我们必须做好准备
AI 安全研究长期聚焦于技术对齐（确保 AI 输出符合人类意图）以及生成式 AI 的社会影响（如失业风险与劳动力市场冲击）。然而，一个同样关键的维度——对 AI 系统本身的依赖所蕴含的风险——却往往被忽视。近日，一篇由 Jaeho Kim 等人提交至 ICML 2026 Position Track 并获 Spotlight 的论文，提出了“AI Lock-In”（AI 锁定）这一概念，警示我们：过度依赖 AI 正在导致人类技能退化、独立功能弱化，并埋下系统性隐患，一旦 AI 服务中断或遭受攻击，后果可能不堪设想。
什么是 AI Lock-In？
论文将 AI Lock-In 定义为一种现象：当人类对 AI 系统的依赖达到一定程度后，自身能力逐渐萎缩，独立运作能力下降，同时整个系统变得脆弱，一旦 AI 不可用或被破坏，便会引发连锁反应。这并非未来学式的猜想，而是已经在个人、社会和国家层面显现的现实威胁。
从个体技能萎缩到国家基础设施瘫痪
论文通过详细的情景分析，展示了 AI Lock-In 如何在多个层面升级：
- 个体层面：过度依赖 AI 辅助工具（如写作、编程、决策支持）会导致相关技能退化。例如，长期依赖 AI 翻译的人，外语能力可能逐渐生疏；依赖 AI 导航的人，方向感可能弱化。
- 社会层面：当 AI 系统成为基础设施的一部分（如医疗诊断、交通调度、金融交易），一旦出现故障，可能引发大范围混乱。
- 国家层面：关键基础设施对 AI 的依赖，可能成为地缘政治冲突中的攻击目标。论文特别指出，AI 服务的中断或遭受网络攻击，可能被放大为国家级的系统性危机。
为何 AI Lock-In 被忽视？
论文认为，当前 AI 安全研究主要关注“如何让 AI 更安全”，却较少思考“如何让人类在 AI 缺席时依然能正常运作”。这种忽视源于一种技术乐观主义，即默认 AI 系统总是可用且可靠的。然而，现实是 AI 系统可能因故障、网络攻击、供应链中断或政策限制而不可用。
如何应对 AI Lock-In？
论文强调，必须主动应对，而非等到依赖根深蒂固甚至不可逆转时才行动。为此，他们提出了分层次的缓解建议：
- 个人层面：保持关键技能的训练，避免完全依赖 AI 工具。
- 组织层面：建立 AI 系统的备份方案，确保关键业务在 AI 中断时仍能运行。
- 国家层面：将 AI 依赖纳入国家安全评估，制定应急预案，并在关键基础设施中保留人工干预能力。
结语
AI Lock-In 是一个系统性威胁，它与技术对齐、社会影响同等重要，却尚未得到充分关注。这篇论文的价值在于，它提醒我们：在拥抱 AI 带来的便利时，必须警惕其潜在的“反噬”。正如论文所主张的，保护个体自主性和国家安全，需要我们在依赖与独立之间找到平衡，提前布局，才能在未来可能的风暴中立于不败之地。