Opera introduces a new web standard to let users deploy AI locally in their browser | TechCrunch
TechCrunch AI··作者 Lucas Ropek
资讯摘要
Browser maker Opera has introduced a new web standard that lets users to run AI models directly in its browser, without relying on the cloud. The new standard, WebAI, is designed to work with a variety of AI models. Opera name drops Google’s Gemma — an open-weight model that Google first introduced two years ago — as one example. On Macs, WebAI also supports Apple’s on-device foundation model, the company says. But Opera says WebAI isn’t tied to any particular model and is built to support a wide range of open-weight AI systems.
资讯正文
浏览器制造商 Opera 推出了一项新的 Web 标准，允许用户直接在其浏览器中运行 AI 模型，而无需依赖云端。
这项名为 WebAI 的新标准旨在支持多种 AI 模型。Opera 以 Google 的 Gemma 为例——这是 Google 两年前首次推出的一款开放权重模型。该公司表示，在 Mac 上，WebAI 还支持 Apple 的设备端基础模型。
不过，Opera 表示，WebAI 并不局限于任何特定模型，其设计目标是支持广泛的开放权重 AI 系统。WebAI 源自 Opera 此前将本地运行的模型引入其浏览器的相关工作。
Opera 正在其旗舰浏览器 Opera One 中以早期预览版的形式提供这些新的 AI 功能。该公司表示，面向游戏玩家和直播主打造的浏览器 Opera GX，以及利用 AI 代理执行任务的浏览器 Opera Neon，也将在不久后获得同样的功能。公司称，用户必须主动选择加入这项功能。
开放权重模型能为用户带来多项好处。首先，它们通常可以免费下载和使用。其底层模型权重也会公开提供，从而给予开发者更大的自由度来定制模型的工作方式。不过，与完全开源的软件不同，开放权重模型仍然会附带一些限制。
该公司表示，隐私也是另一项优势。用户可以使用 AI 功能，而不必将个人信息发送到公司的服务器，也不必为基于云端的 AI 订阅付费。
该公司在公告中表示：“开发者可以添加 AI 功能，而无需运行 AI 基础设施，也无需为每次请求付费。用户不需要 AI 订阅，本地 AI 处理的信息会留在用户自己的设备上，用户也能继续掌控计算机上的 AI。”
该公司表示，WebAI 还允许任何人在浏览器中直接生成文本、对内容进行分类，并理解不同信息片段之间的关联。
随着 AI 助手变得更加强大，并开始获得对个人信息的访问权限，隐私已经成为日益受到关注的问题。用户经常会向 AI 聊天机器人交出大量个人信息，有时却并不清楚这些数据会如何存储或使用。
本地运行的模型提供了一种替代方案，因为处理过程发生在用户自己的设备上，而不是公司的云服务器上。这并不能消除所有隐私风险，但确实能让用户获得更多控制权。因此，Opera 多年来一直将数字隐私作为其主要卖点之一，也就不足为奇了。
不过，这种方式也存在取舍。在本地运行 AI 模型会对用户的计算机提出更高要求，可能影响设备性能。Opera 指出，模型的性能将取决于设备的硬件配置。
来源与参考