LLMUI on-premise AI plateform

LLMUI 是一款专为企业打造的本地化大模型管理与编排平台，旨在帮助组织安全、高效地部署和运营 LLM 模型。平台提供 Core（开源免费）和 Enterprise（商业授权）两个版本，满足不同规模企业的需求。

核心功能

• 模型编排与管理：支持多种 LLM 模型的统一管理，提供灵活的编排能力，实现模型间的协同工作。
• 多角色智能代理：Enterprise 版内置 Andy 多角色 Agent，可模拟不同角色执行复杂任务。
• 多实例 Ollama 管理：集中管理多个 Ollama 实例，简化模型部署与监控。
• Git 连接器：与 Git 仓库集成，便于版本控制和协作开发。
• 移动端支持：提供 PWA 应用和推送通知，随时随地管理平台。

主要特性

• 完全本地化部署：数据不出企业内网，保障隐私与合规。
• 开源免费版可用：Core 版基于 AGPLv3 + Common Clause 协议，适合个人和小团队。
• 企业级安全：Enterprise 版包含全面的安全特性，如访问控制、审计日志等。
• Proxmox 测试支持：与 Proxmox 虚拟化环境集成，便于测试和开发。
• 加拿大研发：由魁北克 Technologies Nexios TF inc. 开发，品质可靠。

适用场景

• 企业内部 AI 应用：在本地部署 LLM，用于客服、文档分析、代码生成等。
• 研究与开发：利用开源版快速原型验证，或使用 Enterprise 版进行生产级部署。
• 多模型管理：需要同时管理多个 LLM 模型并实现编排的企业。