Perplexity 推出本地云端混合 AI 路由

关键信息

Perplexity 表示，金融文件和健康信息等敏感数据会保留在本地，而计算密集型任务会发送到云端模型。该公司与 Intel 一起推出了这一系统，但表示这个框架是模型无关的，也可以运行在 Nvidia RTX Spark 等硬件上。

资讯摘要

Perplexity 宣布了一套混合式 AI 编排系统，可以实时决定某个任务应在用户本地电脑上处理，还是交给云端模型完成。该公司表示，这样做的目标是同时优化准确性、隐私和能效。像金融文件和健康数据这类敏感信息会尽量留在设备本地处理。计算量更大的请求则会被路由到云端模型。Perplexity 是与 Intel 一起发布这套系统的，但强调这个框架是模型无关的。

公司还表示，该方案也可以运行在其他硬件上，例如 Nvidia 的 RTX Spark。Perplexity 计划把这项能力集成到今年 3 月推出的 Always-on 代理产品 Personal Computer 中，并从 7 月开始上线。公司认为，把常规任务转移到本地设备可以减少对中心化基础设施的需求，也有助于简化数据主权问题。Perplexity 还表示，由于其商业模式奖励的是正确答案而不是更高的算力消耗，因此优化效率本身就是一种天然激励。

资讯正文

Perplexity 宣布了一种混合式 AI 系统，可决定哪些任务在本地运行、哪些在云端运行

Perplexity 已宣布推出一个编排器，它将运行在你自己电脑上的 AI 模型与强大的云端模型结合起来，并自动决定将哪项任务交由何处处理。其目标是同时优化准确性、隐私和能源效率。这套混合推理系统将集成到 Always-on agent 产品 Personal Computer 中；该产品于 3 月推出，并将从 7 月开始集成。

像财务文档或健康信息这类敏感数据会保留在本地，而计算密集型任务则会被路由到云端模型。Perplexity 是与 Intel 一起推出这套系统的。不过，这一与模型无关的框架也能运行在其他硬件上，比如 Nvidia 的 RTX Spark。公告称：“本地算力竞赛已经开始。”

Perplexity 表示，将日常任务转移到本地设备，可以减少对集中式计算基础设施的需求，并简化有关数据主权的问题。该公司称，其商业模式奖励的是正确答案，而不是高算力消耗——这使得优化效率成为一种自然的激励。

来源与参考

1. 原始链接
2. Perplexity announces hybrid AI system that decides what runs locally or in the cloud