Osaurus在Mac上融合本地与云端AI
TechCrunch AI··作者 Sarah Perez
关键信息
Osaurus被描述为一种“harness”，也就是通过一个统一界面连接模型、工具和工作流的控制层；与许多面向开发者的工具不同，它采用更适合普通用户的界面，并在硬件隔离的虚拟沙箱中运行任务。本地运行仍然很吃资源，Pae表示Mac至少需要64GB内存才能运行本地模型，而像DeepSeek V4这样的更大模型则建议约128GB内存。
资讯摘要
随着AI模型越来越商品化，创业公司开始把重点放在模型之上的软件层。Osaurus就是这样的一个项目：它是一个开源、仅面向Apple设备的LLM服务器，旨在让Mac用户在本地模型和云端AI服务之间切换，同时把文件和工具保留在自己的硬件上。这个产品最初源自Dinoki，一个桌面AI伴侣，联合创始人Terence Pae曾把它形容为“AI版Clippy”。Dinoki的用户提出了一个直接的问题：如果使用AI还要向模型厂商支付tokens，为什么还要买这个应用。Pae说，这个问题促使他更认真地思考本地AI，并开始把Osaurus作为开源项目公开开发。
随着持续迭代，Osaurus现在既能连接本地模型，也能接入OpenAI和Anthropic等云服务，用户可以按任务自由选择最合适的模型。它把体验中的其他部分，包括记忆、文件和工具，也尽量留在设备本地，并通过虚拟沙箱来提高安全性。Osaurus同时还是一个完整的MCP服务器，附带20多个原生插件，支持Mail、Calendar、Vision、Browser、Git、Filesystem、Search和Fetch等功能。该项目最近还加入了语音能力，官网称自大约一年前上线以来下载量已超过11.2万次。
资讯正文
随着 AI 模型日益商品化，初创公司正竞相在其上方构建软件层。在这一领域，一个有意思的新进入者是 Osaurus：它是一个开源、仅面向 Apple 的 LLM 服务器，允许用户在不同的本地 AI 模型之间切换，也可以在本地或云端之间切换，同时把他们的文件和工具都保留在自己的硬件上。
Osaurus 源于一个桌面 AI 伴侣 Dinoki 的设想。Osaurus 联合创始人 Terence Pae 将 Dinoki 描述为一种“由 AI 驱动的 Clippy”。Dinoki 的用户曾问他，既然还得为 token 付费——也就是 AI 公司对处理提示词和生成回复所收取的使用单位——那他们为什么还要购买这款应用。
这让 Pae 开始更深入地思考在本地运行 AI 的可能性。
“Osaurus 就是这样开始的，”曾在 Tesla 和 Netflix 担任软件工程师的 Pae 在一次通话中告诉 TechCrunch。他解释说，这个想法是尝试在本地运行一个 AI 助手。“你几乎可以在 Mac 本地完成所有事情，比如浏览你的文件、访问浏览器、访问系统配置。我觉得这会是把 Osaurus 定位成面向个人的个人 AI 的绝佳方式。”
Pae 开始以开源项目的形式公开构建这款工具，一路上不断加入功能并修复漏洞。
如今，Osaurus 可以灵活连接本地托管的 AI 模型，也可以连接 OpenAI 和 Anthropic 这样的云服务提供商。用户可以自由选择自己使用的 AI 模型，同时把 AI 体验的其他部分也保留在自己的硬件上，比如模型自身的记忆，或者他们的文件和工具。
考虑到不同 AI 模型各有强项，这套系统的优势在于，用户可以切换到最适合自己需求的 AI 模型。
这样的结构让 Osaurus 成为所谓的“harness”——一种控制层，通过单一界面连接不同的 AI 模型、工具和工作流，类似于 OpenClaw 或 Hermes 这类工具。不过，区别在于，这类工具往往面向熟悉终端的开发者。而且有时，像 OpenClaw 那样，它们还可能带来需要担心的安全问题和漏洞。
与此同时，Osaurus 提供了一个消费者也能轻松使用的界面，并通过在硬件隔离的虚拟沙箱中运行来解决安全顾虑。这会把 AI 限定在一定范围内，从而保护你的电脑和数据安全。
当然，在你的机器上运行 AI 模型这件事仍处于早期阶段，因为它非常消耗资源，而且高度依赖硬件。要运行本地模型，你的系统至少需要 64GB 内存。对于运行更大的模型，比如 DeepSeek v4，Pae 建议使用大约 128GB 内存的系统。
不过，Pae 相信本地 AI 的需求会随着时间下降。
“我能看到它的潜力，因为每瓦智能——也就是本地 AI 的一种衡量指标——一直在显著提升。它有自己独立的创新曲线。去年，本地 AI 还几乎不能完整写完句子，但今天它实际上已经能运行工具、写代码、访问你的浏览器，甚至帮你从 Amazon 下单……它只会越来越好，”他说。
Osaurus 目前可以运行 MiniMax M2.5、Gemma 4、Qwen3.6、GPT-OSS、Llama、DeepSeek V4 以及其他模型。它还支持 Apple 的设备端基础模型、Liquid AI 的 LFM 系列设备端模型；在云端，它可以连接到 OpenAI、Anthropic、Gemini、xAI/Grok、Venice AI、OpenRouter、Ollama 和 LM Studio。
作为一个完整的 MCP（Model Context Protocol）服务器，你也可以让任何兼容 MCP 的客户端访问你的工具。此外，它还自带 20 多个原生插件，支持 Mail、Calendar、Vision、macOS Use、XLSX、PPTX、Browser、Music、Git、Filesystem、Search、Fetch 等更多功能。
最近，Osaurus 也更新加入了语音能力。
根据其网站，自这个项目将近一年前上线以来，下载量已经超过 11.2 万次。与其他允许你在本地运行模型的工具（如 Ollama、Msty、LM Studio 等）相比，这款应用提供了差异化的功能集，并且也将自己定位为更适合非开发者使用的选择。
目前，Osaurus 的创始人们（包括联合创始人 Sam Yoo）正在参加位于纽约的创业加速器 Alliance。他们也在思考下一步的发展方向，可能会把 Osaurus 提供给企业客户，比如法律或医疗领域的公司，因为在这些场景中运行本地 LLM 可以缓解隐私方面的担忧。
随着本地 AI 模型能力不断增强，团队认为这可能会降低对 AI 数据中心的需求。
Pae 说：“我们看到 AI 领域正在爆发式增长，[云端 AI 提供商] 必须通过数据中心和基础设施来扩容，但我们觉得人们还没有真正看到本地 AI 的价值。”他补充说：“与其依赖云端，不如直接在本地部署一台 Mac Studio，而且它应该会消耗明显更少的电力。你仍然拥有云端的能力，但不必依赖数据中心来运行这种 AI。”
来源与参考
收录于 2026-05-16