迈向评价型AI的论证基础：让AI决策更具解释性与可争议性
近年来，人工智能系统在辅助人类决策时，往往倾向于给出一个“最优”建议，但这种方式在复杂、高风险场景下可能掩盖了决策背后的不确定性。为此，研究者提出了**评价型AI（Evaluative AI, EAI）**的新范式：它不直接给出唯一推荐，而是同时呈现多个竞争性假设，并附上支持与反对的证据，让决策者在充分权衡后自行判断。
然而，EAI要想真正落地，还需要一个坚实的理论基础。在近期发表于arXiv的一篇立场论文中，来自伦敦帝国理工学院等机构的研究者（Xiang Yin、Tim Miller、Nico Potyka、Antonio Rago与Francesca Toni）主张，**计算论证（computational argumentation）**是构建EAI形式化基础的理想范式。论文题为《Towards an Argumentative Foundation for Evaluative AI》，于2026年4月25日提交。
为什么是论证？
论证框架天然适合EAI的需求。在论证系统中，一个观点由多个论据支持，同时存在反驳与攻击关系，这与EAI呈现“正反证据”的目标高度契合。通过形式化的论证语义，系统可以自动评估哪些假设在证据冲突中胜出，并为每个假设生成可解释的论证链。更重要的是，论证过程支持争议性（contestability）：如果人类决策者不认同某个结论，可以提出新的论据进行反驳，系统则能动态更新评估结果。这种交互性正是EAI区别于传统黑箱AI的关键。
迈向分布式与人本化EAI
论文作者指出，当前AI系统往往集中于中心化的推荐引擎，而EAI的未来应走向分布式与人本化。分布式意味着多个AI智能体可以各自提出假设与证据，通过论证协议进行交互；人本化则强调系统必须能向人类解释其推理过程，并接受人类的质疑与干预。计算论证为此提供了现成的工具：抽象论证、结构化论证、假设性论证等理论均可用于建模多智能体间的辩论。
长期研究议程
这篇立场论文并非提出具体算法，而是勾勒了一个长期研究蓝图。作者呼吁学界关注以下几个方向：
- 形式化EAI语义：如何将EAI的“假设-证据”结构映射到论证框架中？
- 可解释性与透明度：如何让论证链对人类用户清晰可见？
- 交互式争议机制：如何设计支持人类反驳的协议，确保系统能吸收反馈？
- 分布式论证：如何在多智能体环境中高效协调论证过程？
尽管目前EAI仍处于早期阶段，但这一方向的提出，反映了AI研究从“预测准确”向“决策透明”的转变。在医疗、司法、金融等高风险领域，EAI或许能成为人机协作的更好桥梁。
值得注意的是，本文仅代表作者观点，尚未经过同行评审。但作为一篇立场论文，它无疑为后续研究提供了有价值的起点。