从文本中识别人类价值观：一种可定制的大模型架构
随着智能系统自主性日益增强，研究者正致力于将伦理与道德考量融入决策机制，而非单纯追求效用最大化。实现这一目标的关键在于评估决策与人类价值观的契合度。基于大语言模型（LLM）的方法成为识别文本中显性或隐性人类价值观的热门方向。最新发表于 ICAART 2026 的论文提出了一种可定制的 LLM 架构，能够检测文本中的人类价值观并量化其强度，摆脱了以往方法对特定价值理论或复杂提示工程的依赖。
该架构由三个协调模块组成：
- 规范生成模块：从任意理论框架的基础文本中自动生成结构化的价值规范。
- 文本标注模块：利用生成的规范对文本进行标注。
- 强度评估模块：基于修辞和语义证据，为价值观分配支持或抵抗程度。
这种模块化设计将“概念化”与“检测”分离，使得流程可扩展、可复现，且能适配多种价值理论。研究团队使用多个 LLM 实例化该架构，并在 ValueEval 数据集上进行了评估。实验结果显示，该架构取得了良好的检测性能，验证了管线的通用性。
背景与意义
传统 AI 系统以效用最大化为目标，但自主决策（如自动驾驶、医疗诊断）常常面临伦理困境。例如，自动驾驶汽车在无法避免碰撞时，应如何权衡不同乘客与行人的安全？要回答这类问题，系统必须理解并量化“公平”“生命”“责任”等人类价值观。然而，价值观本身具有抽象性、文化依赖性和理论多元性，为计算建模带来挑战。
架构亮点
该工作的核心创新在于“可定制性”。以往方法通常绑定特定的价值理论（如 Schwartz 价值观理论），或需要人工设计复杂的提示模板。而新架构通过模块化设计，允许用户直接输入任意理论的基础文本（如哲学著作、道德准则），系统自动提取价值定义与关系，生成规范。这意味着同一套流程可以轻松适配不同文化背景或应用场景的价值体系。
在检测阶段，模型不仅判断文本是否提及某种价值观，还根据语言线索（如情感强度、修辞手法）评估其“支持”或“抵抗”程度。例如，“我们必须保护弱势群体”会被识别为对“关心他人”价值观的强烈支持，而“效率优先于公平”则可能被判定为对“公平”的抵抗。
实验与评估
研究者在 ValueEval 数据集上测试了多个 LLM（包括 GPT、LLaMA 等）。结果表明，架构在价值观分类和强度预测任务上均优于基线方法，且不同 LLM 的表现具有一致性，说明管线设计具有鲁棒性。论文还指出，规范生成模块输出的结构化描述可被人类审查，增强了可解释性。
未来方向
该工作为价值观对齐研究提供了新工具。未来可探索：
- 将架构集成到强化学习框架中，用于训练价值观对齐的智能体；
- 扩展至多语言、多文化场景；
- 结合因果推理，理解价值观如何影响决策。
总之，这项研究标志着从“单一理论、手工提示”向“可定制、模块化”的价值观识别范式的转变，为构建更负责任的 AI 系统奠定了基础。