Compute:Arena

Compute:Arena 是一个由社区驱动的本地 AI 模型性能基准测试平台，旨在为开发者和硬件爱好者提供透明、可比较的推理性能数据。无论你使用何种硬件、运行时或量化方式，都能在这里找到或提交真实的基准测试结果。

核心功能

• 社区提交基准：任何用户都可以提交自己的测试数据，涵盖不同模型、硬件配置和软件环境。
• 多维度对比：支持按硬件（CPU/GPU/NPU）、运行时（如 llama.cpp、ONNX Runtime）和量化方法（GGUF、AWQ 等）筛选和比较结果。
• 开放数据：所有基准数据公开可查，帮助用户做出更明智的本地部署决策。

主要特性

• 硬件无关性：从树莓派到高端显卡，任何设备都能参与测试。
• 运行时全覆盖：支持主流推理框架，确保结果具有广泛参考价值。
• 量化感知：明确标注量化级别，避免不同精度下的性能误判。
• 社区验证：通过众包方式持续更新，反映真实世界表现。
• 易于贡献：提供标准化提交模板，降低参与门槛。

适用场景

• 模型选型：在部署前了解目标模型在特定硬件上的实际速度。
• 硬件采购：对比不同设备运行同一模型的性能差异。
• 优化参考：查看他人如何通过量化和运行时调优提升效率。

Compute:Arena 致力于打造本地 AI 领域的“跑分天梯”，让性能数据不再黑箱。