新上线1个月前0 投票
Osaurus：让Mac同时运行本地与云端AI模型的开源利器
随着AI模型逐渐商品化，初创公司正竞相构建位于模型之上的软件层。Osaurus 是一个开源、仅限苹果平台的LLM服务器，它允许用户在本地或云端的不同AI模型之间切换，同时将记忆、文件和工具保留在自己的硬件上。
Osaurus 源于桌面AI伴侣 Dinoki 的构想，其联合创始人 Terence Pae 曾将其描述为“AI版 Clippy”。Dinoki 的用户曾质疑：既然仍需为AI令牌付费，为何还要购买该应用？这促使 Pae 更深入地思考本地运行AI的可能性。Pae 此前在特斯拉和 Netflix 担任软件工程师，他告诉 TechCrunch：“你可以在 Mac 上本地完成几乎所有操作，比如浏览文件、访问浏览器和系统配置。我认为这是将 Osaurus 定位为个人AI的好方式。”
Pae 以开源项目形式公开构建该工具，并不断添加功能、修复漏洞。如今，Osaurus 可灵活连接本地托管模型或 OpenAI、Anthropic 等云端提供商。用户可自由选择使用的AI模型，同时将记忆、文件和工具等体验部分保留在本地硬件上。由于不同模型各有优势，这种结构使用户能按需切换至最适合的模型。
Osaurus 本质上是一个“控制层”（harness），通过单一界面连接不同AI模型、工具和工作流，类似 OpenClaw 或 Hermes 等工具。但区别在于，后者通常面向熟悉终端的开发者，且如 OpenClaw 可能存在安全漏洞。而 Osaurus 提供易于使用的消费者界面，并通过硬件隔离的虚拟沙箱运行，将AI限制在特定范围，确保计算机和数据安全。
当然，在本地运行AI模型仍处于早期阶段，因为其资源消耗较大。不过，Osaurus 的开放架构和隐私优先设计，为追求灵活性和数据控制的用户提供了新选择。
