CriteriaBot

CriteriaBot 是一款突破性的通用分类工具，支持用户自定义分类标准，灵活应用于内容审核、品牌语调检查、提示注入检测等多种场景。它巧妙融合了传统机器学习与小型开源语言模型的共识机制，既保留了传统分类方法的高准确性，又具备了大型语言模型的广泛通用性。

核心功能

CriteriaBot 的核心在于其独特的混合架构：通过一个由多个小型开源语言模型组成的共识面板，结合传统机器学习算法，对输入内容进行多维度评估。这些语言模型还能实时访问 Wikipedia 和 Wolfram 知识库，从而在处理需要最新事实信息或数学计算的任务时，提供精准可靠的判断。

主要特性

• 高度可定制：用户可自由定义分类标准和规则，适应从内容审核到品牌合规的多样化需求。
• 高准确率：融合传统机器学习与多模型共识，减少误判，提升分类精度。
• 实时知识更新：借助 Wikipedia 和 Wolfram 的实时数据，处理事实核查和数学推理任务。
• 通用性强：不仅限于内容审核，还支持品牌语调检查、提示注入检测等复杂场景。
• 轻量高效：采用小型开源模型，部署成本低，响应速度快。

适用场景

• 内容审核：自动识别违规内容，如仇恨言论、暴力、色情等。
• 品牌合规：检查营销文案是否符合品牌语调与风格指南。
• 安全检测：检测提示注入攻击，保护 AI 应用安全。
• 事实核查：验证声明中的事实准确性，尤其适用于新闻和学术领域。
• 数学推理：处理需要数学计算的分类任务，如财务数据验证。