人类与大型语言模型混合体中的对抗性社会认识论
当信任成为武器：人类与LLM混合交流中的对抗性社会认识论
随着大型语言模型（LLM）深度嵌入日常沟通，我们正进入一个前所未有的“密集交互式交流景观”。在这个景观中，公开断言不再来自单一声音，而是由一系列证据链、推理、机构认证和隐性信任共同支撑。然而，一篇来自多伦多大学罗特曼管理学院两位学者——Mihnea C. Moldoveanu 和 Joel A.C. Baum——的预印本论文（arXiv:2607.07760）警告：这种复杂性恰恰为信息操纵提供了新温床。
超越“回音室”与“信息茧房”
论文提出的核心概念是“对抗性社会认识论”（Adversarial Social Epistemology, ASE），旨在解释一种现有理论未能充分覆盖的现象：在高度互动的交流环境中，参与者——无论是人类还是LLM——有动机和能力去扭曲、粉饰、遗漏、编造或策略性模糊信息，以获取私人、声誉、修辞或物质利益。
作者指出，传统的“信息茧房”或“回音室”概念过于静态，无法捕捉动态的信任侵蚀机制。真正需要解释的是：沟通者如何利用那些原本使“有依据的断言”值得信赖的承诺和权利，反过来破坏信任。例如，一个LLM可以引用一个看似权威的源，但该源本身可能是一个循环论证或虚构内容；人类发言者则可能利用机构认证的符号来掩盖不完整的信息。
核心机制：审计链的破坏
论文详细描述了破坏信任的几种关键机制，其中核心是削弱可审计性。在传统的知识网络中，一个断言的可信度可以通过追溯其推理链来验证。但在LLM参与的场景中，推理链可能被有意缩短、隐藏或复杂化，使得审计变得不可能或成本极高。作者借用“推理主义语义学”（inferentialist semantics）——即通过断言在推理网络中的角色来理解其意义——来构建分析框架。
具体而言，LLM可能产生“看似合理但实际无法追溯”的陈述，而人类则可能依赖LLM的输出作为“黑箱证据”，从而在不需要亲自核实的情况下支持自己的论点。这种协同作用使得虚假信息不仅难以检测，而且难以归责。
审计与补救：对抗性认识论的工具箱
论文并非仅仅停留在诊断层面。作者还勾勒了一套用于审计和补救信任违约的机制，重点在于恢复推理链的可追溯性。这包括设计新的“认识论网络”结构，要求所有断言必须附带其推理路径的元数据；以及建立自动化的“信任审计”系统，能够标记那些无法通过标准推理链验证的断言。
这一思路对AI系统设计有直接启示：未来的LLM或许需要在输出时明确标注其信息来源的完整链条，甚至包括内部推理的置信度分布。同时，平台和机构需要建立新的验证协议，防止人类与LLM之间形成“共谋式”的信息失真。
行业意义与未来方向
这项研究将AI伦理讨论从“如何防止模型说谎”推向更复杂的“如何在混合交流系统中维护知识诚信”。它提醒我们：当AI不仅仅是工具，而是沟通的积极参与者时，传统的信任模型需要彻底重构。对于开发者而言，这意味着不仅要关注模型的准确性，还要关注其输出的可审计性和推理透明度。对于政策制定者，则需考虑如何将“审计链”要求纳入AI治理框架。
论文目前为50页的预印本，尚未经过同行评审，但其提出的ASE框架为理解人类与AI交织的信息生态提供了有力的分析工具。随着LLM在新闻、法律、医疗等领域的深入应用，这种对抗性认识论的视角将成为不可或缺的认知基础设施。