精选昨天0 投票
神经-智能体控制：一种基于深度学习的LLM驱动安全控制框架
工业物联网（IIoT）环境中，针对操作技术（OT）的网络攻击正日益造成昂贵的停机时间和物理损坏，传统基于规则的监控方法已显露出局限性。尽管大语言模型（LLM）具备强大的语义推理能力，可辅助决策支持，但其固有的幻觉特性在闭环控制场景中构成不可接受的安全风险。
新框架：神经-智能体控制
近期一篇预印本论文提出了神经-智能体控制框架，这是一种将LLM规划器（如 Gemini 2.5 Flash-Lite）与预训练的时间序列基础模型（TimesFM） 相结合的新型架构，旨在实现基于物理规律的自主防御。其核心创新在于引入了一种**“反事实物理注入机制”**：在LLM提出的干预措施实际执行前，先在基础模型的数值潜在空间中模拟其影响，从而允许系统拒绝幻觉或不安全的行为。
实验验证：显著优于传统基线
研究团队在工业数据集（如安全水处理系统 SWaT）上，针对随机攻击场景进行了评估。结果显示，该框架相比 LSTM 和 TCN 基线表现更优：
- 神经-智能体循环成功阻止了 33.3% 的阈值以下违规事件（5次），而 LSTM 和 TCN 的阻止率分别为 26.7% 和 13.3%。
- 更关键的是，零次物理上无效（即幻觉）的动作被执行。
行业意义：基础模型作为“哨兵”
这些结果证明了将基础模型用作确定性“哨兵”来保护关键基础设施中智能体AI的有效性。该框架通过“先模拟后执行”的机制，有效解决了LLM在工业控制场景中的幻觉问题，为AI在安全攸关领域的落地提供了新思路。
目前该研究以预印本形式发布于 arXiv，尚未经过同行评审。