大语言模型浮现模块化认知架构,与人类大脑惊人相似
人类大脑在功能上高度特化,不同脑区分别负责语言、形式推理、社会认知和物理世界推理。这种模块化组织究竟是智能系统的普遍原则,还是生物大脑演化中的偶然?一项发表于 arXiv 的新研究对大型语言模型(LLM)展开了系统测试,发现 LLM 在内部也发展出了类似大脑的模块化架构:同一认知域的任务会激活重叠的神经元,不同认知域则使用不同的神经元。研究者认为,这种趋同演化暗示模块化可能是智能系统的普适特性。
研究设计与核心发现
来自 MIT 等机构的研究人员(包括 Pengrui Han、Jacob Andreas、Evelina Fedorenko 等)对 46 项任务 进行了电路分析,覆盖语言、形式推理、社会推理和物理推理四大认知域。他们追踪了 LLM 在处理这些任务时内部神经元的激活模式,结果发现:
- 当两个任务在人类大脑中依赖同一网络时,LLM 中激活的神经元也高度重叠;
- 当任务涉及不同认知网络时,LLM 中使用的神经元则彼此分离。
这表明,尽管 LLM 的训练目标只是预测下一个 token,但其内部自发涌现了与人类认知架构相似的模块化组织。
为何模块化会涌现?
研究团队指出,模块化可能并非偶然,而是智能系统在解决多样化任务时的一种高效策略。类似的观点在神经科学和人工智能领域早有讨论,但此前缺乏直接证据。该研究通过跨物种、跨系统的对比,首次在神经网络中观察到与脑功能分区高度对应的结构。
作者在论文中写道:“大脑和神经网络中模块性的趋同涌现表明,它可能是智能系统的基本属性。”这一结论对理解通用人工智能(AGI)的架构设计具有启发意义:也许未来的 AI 系统无需人为预设模块,只需足够复杂的训练,就能自发形成类似大脑的功能分区。
局限与展望
需要注意的是,该研究目前以预印本形式发布,尚未经过同行评审。虽然样本任务数量可观(46 项),但主要基于特定模型架构,是否适用于所有 LLM 仍待验证。此外,神经元重叠的生物学意义尚需进一步解释。
尽管如此,这一发现为“智能的共性原理”提供了新视角,也引发了关于 LLM 可解释性的讨论:如果我们能定位这些功能模块,或许能更精准地调控模型行为,甚至修复偏见或错误。
未来,研究团队计划扩展任务范围,并探索模块化程度与模型性能、泛化能力之间的关系。这项研究不仅架起了神经科学与 AI 之间的桥梁,也让我们离理解智能的本质更近一步。