IQ Routing

IQ Routing 是一款智能网关，旨在通过智能路由显著降低 AI 智能体的运行成本。它颠覆了传统 LLM 调用的单一模式，将每个请求视为智能体执行轨迹中的一环，而非孤立的调用。

核心功能

IQ Routing 的核心在于其轨迹感知能力。它能够识别每个请求在整体任务中的位置和作用，并据此做出智能路由决策。系统会首先对请求进行分类，优先利用缓存结果，然后为每个请求选择能够满足质量要求且成本最低的模型。这意味着，对于简单的样板化任务，系统会自动分配轻量级模型；而对于关键决策点，则会调用最强大的模型来确保任务质量。

主要特性

• 轨迹感知路由：基于请求在智能体运行轨迹中的位置，动态调整模型选择，实现成本与质量的完美平衡。
• 智能缓存：自动识别并复用重复请求的结果，大幅减少不必要的计算开销。
• 无缝集成：作为即插即用的网关，无需修改现有代码即可快速接入，降低迁移成本。
• 成本优化：通过精确的模型选择，平均可降低 30% 以上的推理成本，同时保持输出质量。
• 质量保障：内置质量评估机制，确保每个请求都达到预设的标准，避免因降本而牺牲效果。

适用场景

IQ Routing 特别适合构建复杂的 AI 智能体应用，例如多步骤工作流、自动化客服、数据分析助手等。在这些场景中，任务通常包含大量重复性或低难度步骤，同时也有关键决策点。通过 IQ Routing，开发者可以轻松平衡成本与性能，让智能体在预算可控的前提下发挥最大效能。无论是初创公司还是大型企业，都能从中获益，实现 AI 应用的规模化落地。