Nativ为Mac带来本地AI聊天和API

关键信息

这款应用被描述为在形式上类似 LM Studio，把聊天界面和本地服务器 API 访问结合在一起。它能直接读取 Hugging Face 缓存中的模型，说明可以复用已经下载好的文件，而不必重新导入。

资讯摘要

Simon Willison 介绍了 Nativ，这是一个新的 macOS 桌面应用，可以在 Mac 上本地运行 AI 模型。这个项目由 Prince Canuma 开发，他也是 MLX-VLM Python 库的作者，该库用于在 Mac 上借助 MLX 运行视觉语言模型。Nativ 把 MLX 封装成完整的桌面应用，而不是只作为一个库或底层框架提供。应用既提供聊天界面，也运行一个 localhost API 服务器，方便其他工具以编程方式连接本地模型。

Willison 认为它的形态类似 LM Studio，这意味着它更像是面向普通用户的本地模型运行器，而不只是开发者工具。他还提到，Nativ 能识别他 Hugging Face 缓存目录里已经存在的 MLX 模型，这让安装和使用更省事。整篇文章把 Nativ 描述为在 macOS 上使用 MLX 的一个令人兴奋的新方式，尤其适合已经在使用本地 LLM 的人。

资讯正文

<p><strong><a href="https://blaizzy.github.io/nativ/">Nativ：在你的 Mac 上本地运行 AI 模型</a></strong></p>

Prince Canuma 是出色的 <a href="https://github.com/Blaizzy/mlx-vlm">MLX-VLM</a> Python 库的开发者，该库可在 Mac 上使用 MLX 运行视觉大语言模型。</p>

<p>我对他的这个新项目非常兴奋，它把 MLX 封装成了一个完整的 macOS 桌面应用。它在形态上类似于 LM Studio，既提供聊天界面，也提供用于访问模型的 localhost API 服务器。</p>

<p>这个应用会自动识别我此前已经尝试过、并且存在于我的 Hugging Face 缓存目录中的 MLX 模型，这是一个很贴心的设计。

<p><small></small>Via <a href="https://news.ycombinator.com/item?id=48982681">Hacker News</a></small></p>

来源与参考

1. 原始链接
2. Nativ: Run AI models locally on your Mac