
Kelhe
kelhe.com
为自主AI代理提供风险评分
4个月前制作者:Kelhe
关于 Kelhe
Kelhe 是一款专注于自主AI代理安全的风险评分工具。当前大多数代理安全方案要么依赖硬编码规则(难以维护),要么需要人工审批每一步(无法扩展)。Kelhe 则不同:对于代理即将执行的每一个动作,它会在动作执行前返回一个风险评分。该评分对应清晰的决策:允许、暂挂待人工审核或拒绝,并附带完整的信号和原因,全程可审计。只需一次 HTTP 调用——无需 SDK,无框架锁定,支持任何语言。每个动作快速评分,仅在必要时引入人工干预。
核心功能
- 实时风险评分:在代理执行动作前,通过 HTTP 调用即时返回风险评分,确保安全决策前置。
- 清晰决策映射:评分对应三种操作:允许执行、暂挂等待人工审核、直接拒绝,并提供详细的信号和理由。
- 完全可审计:每次评分的依据和结果均可追溯,满足合规与安全审计需求。
- 轻量集成:仅需一次 HTTP 调用,无需安装 SDK 或绑定特定框架,支持任意编程语言。
主要特性
- 无框架锁定:不依赖特定 AI 代理框架,可无缝集成到现有系统。
- 高性能:快速评分,不拖慢代理执行流程。
- 人工按需介入:仅在高风险或不确定情况下触发人工审核,提升效率。
- 可扩展规则:风险评分基于动态模型,易于调整和优化。
- 多语言支持:通过 HTTP API 调用,任何语言均可使用。
适用场景
- 自主代理安全:适用于需要自主决策的 AI 代理,如自动化客服、交易机器人、代码生成代理等。
- 合规与风控:金融、医疗等强监管行业,确保代理行为符合规定。
- 人机协作:需要人工审核关键决策的场景,平衡自动化与安全性。