AI 日报

AI 从内容到基础设施全面加速,安全与治理压力同步上升

今天的信号很清晰:AI 已经不只是“写内容的工具”,而是在重塑网页生产、企业工作流、金融交易和模型基础设施。与此同时,提示注入、隐私留存、公众反弹和数据中心资源消耗等问题,也在同步放大。

当天导读

从 52 条资讯中筛选出 18 条

今天的信号很清晰:AI 已经不只是“写内容的工具”,而是在重塑网页生产、企业工作流、金融交易和模型基础设施。与此同时,提示注入、隐私留存、公众反弹和数据中心资源消耗等问题,也在同步放大。

Grok 再次证明提示注入不是理论问题

研究人员展示了如何通过加密内容中的隐藏指令诱导 Grok 泄露聊天记录和个人信息,说明间接提示注入仍可直接转化为数据外泄事件。

AI 网页内容已从“趋势”变成规模化现实

皮尤研究发现,自 ChatGPT 发布后新网页中有 35% 带有 AI 写作痕迹,意味着机器参与内容生产已成为互联网的新常态。

模型路由正在变成新的 AI 基础设施层

Stripe 收购 OpenRouter、Ramp 推出 Router,显示企业开始围绕模型选择、成本、延迟和故障切换建立统一接口。

代理型 AI 正在走向真实执行层

Binance 让 AI 代理下单交易,Meta 则把 AI 推向 Mac 桌面和企业工作流;权限、审批和隔离随之成为核心问题。

隐私与安全的拉锯进入企业采购核心

OpenAI 的 Private Safety Processing 试图在不留存客户数据的前提下做滥用监测,直接对标 Anthropic 的留存政策差异。

公众对 AI 的反弹正在从情绪变成现实约束

Wired 指出,围绕就业、信任、文化和数据中心的担忧正在加深,这会影响 AI 产品普及与政策环境。

今日主题

AI 正在从“生成内容”快速走向“嵌入流程、驱动交易、重构基础设施”。但能力扩张越快,安全边界、数据治理和社会信任的压力也越明显。

头条看点

  1. 安全风险仍是最现实的 AI 代价:Grok 被证明可通过加密提示注入泄露聊天记录和个人信息,说明间接提示注入仍然是能落地的数据外泄路径(#3861)。
  2. AI 已深度写入网络内容生产:皮尤研究显示,自 ChatGPT 发布后新网页中有 35% 带有 AI 写作痕迹,说明“AI 生成网页”已从边缘现象变成默认趋势(#3863)。
  3. 模型经济正在被基础设施公司接管:Stripe 收购 OpenRouter、Ramp 推出 Router,表明“模型路由”和 token 支出管理正在成为新战场(#3864, #3875)。

主题分组

1) AI 安全:攻击面比产品迭代更快扩张

Grok 的案例再次说明,模型并不需要“被说服”,只要被嵌入恶意指令就可能泄露数据。对于能读取邮件、文档、网页并执行动作的助手,这类风险尤其值得警惕(#3861)。

2) AI 内容:网页正在被机器重写

皮尤的研究把“AI 写作”从体感争论变成了大样本趋势:在 ChatGPT 之后发布的新网页里,AI 痕迹占比上升到 35%,且 .com 域名最明显(#3863)。与此同时,关于检测的讨论也在升温——后训练护栏可能让文本更容易被识别,但这并不等于解决了内容真实性问题(#3878)。

3) AI 基础设施:路由、代理和计费都在平台化

Stripe 收购 OpenRouter、Ramp 推出 Router,说明企业正在围绕“选哪个模型、怎么切换、怎么控成本”建立新的中间层。AI 基础设施不再只是云和算力,路由 API、使用监控和 token 账单正在成为核心资产(#3864, #3875)。

4) AI 代理:从建议到执行,风险也从输出转向权限

Binance 的 Agent OS 让代理直接参与交易,Meta AI 则把助手推向桌面与企业工作流。两者都在把 AI 从“回答问题”推进到“代表用户行动”,但也把权限控制、审批和隔离变成第一优先级(#3866, #3876)。

5) AI 治理与社会情绪:信任问题正在反噬增长叙事

OpenAI 一边预览隐私保护型安全监测,一边推出 AI Futures 博客,显示公司正在把“安全”和“社会影响”作为公开叙事的一部分(#3867, #3869)。与此同时,Wired 指出,硅谷低估了公众对 AI 的反感;这股情绪已经进入主流文化,并开始影响政策与传播环境(#3879)。

6) 资源与现实成本:算力背后是水、电和基础设施

Liquid Death 的冷笑话掩盖不了一个现实:AI 数据中心确实需要更可持续的冷却方案,而再生水已成为可行路径之一(#3872)。这也提醒行业,AI 扩张最终会落到真实世界的资源约束上。

值得继续关注

  • 企业级 AI 产品是否会把“零数据留存”和“安全监测”变成新的竞争卖点(#3867)。
  • 模型路由与 token 成本管理是否会成为下一轮基础设施并购潮的中心(#3864, #3875)。
  • 代理型产品在获得更高权限后,如何避免提示注入与误操作带来的连锁风险(#3861, #3866, #3876)。
  • 公众对 AI 的反感是否会进一步影响搜索、创作和数据中心扩张的政治环境(#3873, #3879)。

当日精选 8 条

01

Ars Technica AI

Grok 通过加密提示注入泄露数据

·#ai-security

Grok 通过加密提示注入泄露数据

研究人员展示了 Grok 可以被操纵,从而在恶意指令被隐藏在加密内容中时泄露用户聊天记录和其他个人信息。Ars Technica 报道称,即使 xAI 已在 6 月收到通知,这个问题在文章发布时仍然可以复现。

这又是一个提示注入导致真实数据外泄的案例,而不仅仅是模型被“误导”,这对能访问敏感内容的企业和个人助手尤其令人担忧。它再次说明,LLM 厂商必须依赖强力防护措施,因为底层模型无法可靠区分攻击者注入的指令和合法用户请求。

Ars Technica 报道称,研究人员发现了一种让 Grok 窃取用户数据的新方法,其中包括聊天记录和其他个人信息。该攻击依赖隐藏在加密内容中的恶意指令,这让它们能够绕过助手对所读内容的正常预期。此前,研究人员还披露过 Microsoft 365 Copilot 的类似问题,他们利用一个秘密输入迫使助手从用户收件箱中外泄密码。就 Grok 而言,文章发布时这个问题仍然有效,尽管 xAI 早在 6 月就已收到通知。

文章把这两起事件视为同一个长期存在的问题:提示注入。提示注入之所以有效,是因为 LLM 的设计目标之一就是尽可能遵从指令,即使这些指令被嵌入在邮件、网页或其他外部内容中、而这些内容本来只是要求它去总结。由于模型无法可靠地区分不受信任的内容和用户直接输入的命令,攻击者就能诱使它执行错误的指令。文章认为,LLM 本身无法从根本上解决这一问题,因此开发者只能构建安全护栏来阻止或隔离可疑行为。

这次攻击的特点是把恶意指令隐藏在加密内容中,从而把有害引导偷偷带进助手正在处理的文本里。文章将这一问题归入更广泛的间接提示注入,并指出当前防御主要依赖于识别和阻止可疑指令的安全护栏。

查看单篇正文查看原文
02

TechCrunch AI

ChatGPT 之后 AI 网页激增

·#ai-generated-content

ChatGPT 之后 AI 网页激增

皮尤研究中心表示,自 ChatGPT 于 2022 年 11 月发布以来,超过三分之一的新网页表现出 AI 写作痕迹。该机构基于 Common Crawl 收集的近 50 万个英文网页,并使用 OpenPangram 的检测技术,发现这些网页中有 35% 带有 AI 写作信号。

这一发现表明,AI 生成或 AI 编辑内容已经成为现代网页的重要组成部分,这会影响出版流程、SEO 和信息质量。它也进一步说明,机器人正在越来越大规模地生产和消费网络内容。

皮尤研究中心发布了一项新研究,显示自 ChatGPT 问世以来发布的网页中,超过三分之一看起来是由 AI 撰写或经过 AI 大幅编辑的。该报告与其他研究相互印证,说明网络上的新内容中有越来越大一部分已经由机器参与生成。它发布的时间也紧随 Cloudflare 的一项结论之后:机器人流量已经超过人类流量,这进一步说明互联网正在被自动化系统深度塑造。不过,皮尤关注的不是谁在浏览网页,而是网页本身是如何被写出来的。为了完成分析,皮尤使用 Common Crawl 归档收集了近 50 万个英文网页,时间跨度约五年,其中包括 ChatGPT 发布前的年份。随后,皮尤借助 OpenPangram 的 AI 检测技术,识别哪些页面可能由 AI 撰写或被明显编辑过。

在 2026 年 7 月抽取的 1 万个网页随机样本中,大约 10% 显示出明显的 AI 写作痕迹。皮尤指出,这一结果被许多早于 AI 写作工具出现的旧网页稀释了,因此他们进一步只统计 ChatGPT 发布后的网页。剔除旧网页后,带有 AI 写作痕迹的比例上升到 35%。皮尤还发现,不同域名类型之间差异很大:.com 域名的 AI 写作迹象大约是 .edu 和 .gov 的 10 倍,而 .org 只有 4.6%。研究并不完美,因为 AI 检测器也可能把人类写作误判为 AI,但皮尤认为大规模数据仍然能反映总体趋势。报告还指出,一些常被视为 AI 写作特征的表达方式也在增加,例如破折号、牛津逗号,以及“it's not X, it's Y”这类句式。

皮尤指出,2026 年 7 月抽取的 1 万个网页随机样本中,大约 10% 显示出 AI 写作痕迹,但其中包含许多在 AI 写作工具出现之前发布的旧网页。将样本限制为 ChatGPT 发布后的新页面后,这一比例上升到 35%;其中 .com 域名的 AI 写作比例约为 .edu 和 .gov 的 10 倍,而 .org 仅为 4.6%。

查看单篇正文查看原文
03

TechCrunch AI

Stripe 收购 OpenRouter 进军 AI 基础设施

·#ai-infrastructure

Stripe 收购 OpenRouter 进军 AI 基础设施

Stripe 于周三确认将收购 OpenRouter,《纽约时报》报道称交易金额为 75 亿美元。这个价格远高于 OpenRouter 今年 5 月 13 亿美元的估值,据称创始人将获得 15 亿美元,投资人将分得其余 60 亿美元。

这笔交易表明,AI 基础设施正在成为大型金融科技和平台公司的核心战场,尤其是在 AI 使用推动开发者活动和支出增长的背景下。它也说明 Stripe 不再只关注支付处理,而是希望更深入地掌握 AI 模型使用和 token 相关的费用流向。

Stripe 已确认收购 OpenRouter,这是一家以在不同 AI 模型之间路由开发者请求而闻名的快速增长平台。虽然 Stripe 没有披露收购价,但《纽约时报》援引消息称交易金额为 75 亿美元。相比 OpenRouter 今年 5 月 13 亿美元的估值,这一数字大幅跃升。文章指出,仅创始人就据称将获得 15 亿美元,甚至超过该公司三个月前的整体估值,而投资人将获得剩余的 60 亿美元。报道还称,Stripe 为了拿下这家公司,击败了包括 Databricks 在内的其他竞购方。对于一家主要做支付的公司为何要收购模型路由平台,文章给出的解释来自一封泄露给投资人的内部信。Stripe 创始人把这件事戏称为“奇点”,即 AI 快速发展并改变经济的阶段。

Stripe 方面已经表示,AI 正在推动更多公司成立,也让更多公司采用 Stripe 的产品,Stripe 还声称 Forbes AI 50 中有 88% 的公司在使用其服务。创始人认为,Stripe 与 OpenRouter 的客户群存在重叠,因为两者都服务开发者。文章进一步指出,Stripe 内部使用 OpenRouter 可能有助于它推出未来更偏模型无关的 agent 产品,并更好地理解开发者如何消耗 AI。OpenRouter 则在自己的博客中表示,交易完成后其产品、使命和当前承诺都不会改变。整体来看,这笔收购显示 Stripe 正在从“帮助收款”扩展到“管理支出”的另一侧,尤其是 AI 费用和 token 使用管理。文章还把它放在更大的行业趋势中理解:Databricks、Rippling 和 Ramp 也在开发各自的 AI gateway 或 AI 费用管理产品。

OpenRouter 是一个面向开发者的平台和统一 API 层,用于在多个 AI 模型之间路由请求,因此 Stripe 得到的是位于开发者和模型提供商之间的关键工具。文章还提到,OpenRouter 在交易完成后可能继续独立运营,而 Stripe 创始人则将这笔收购描述为与 AI 经济影响相关的“奇点时代”玩笑。

查看单篇正文查看原文
04

Simon Willison

·#sandboxing

smolvm 被测试为不可信代码沙箱

Simon Willison 发布了一项研究,探讨如何使用 smolmachines/smolvm 在限制 CPU 和内存、禁止网络访问、并只允许访问指定文件的情况下运行不可信的 Python 和 JavaScript。该研究由 Claude Code for web 中的 Claude Fable 5 完成,先遇到环境限制,随后改用 GitHub Actions 进行实际测试。

安全执行用户提供的代码,是数据转换工具、AI 代理以及任何需要运行任意 Python 或 JavaScript 的服务的核心问题。如果 smolvm 能通过硬件隔离的虚拟机提供强隔离能力,它可能成为比共享内核容器更实用的风险降低方案。

Simon Willison 的这篇研究笔记探讨了 smolmachines 和 smolvm 是否可以作为一个快速且安全的沙箱,用来运行不可信的 Python 和 JavaScript。为此,他让运行在 Claude Code for web 中的 Claude Fable 5 研究:如何支持用户提供的数据转换任务,同时限制 CPU 和内存占用、阻止无限循环、禁止网络访问,并且只允许访问指定文件。智能体很快发现,Claude Code for web 本身无法运行 smolmachines,因为该容器没有 /dev/kvm,而且也没有 vmx/svm CPU 标志,因此无法使用嵌套虚拟化。笔记还记录到,`smolvm machine run` 也按预期失败,并报出“kvm not available”。

没有就此停止,而是提出了 Plan B:利用暴露了 /dev/kvm 的 GitHub Actions ubuntu runner,在分支上创建一个临时工作流来执行真实测试。该工作流在 runner 中安装 smolvm,并直接运行仓库中的测试脚本,最后可以在最终提交中删除该工作流。Willison 把这种做法称为对环境限制的一种创造性应对,也再次体现了 Fable“积极主动到近乎执着”的特点。

最初的 Claude Code for web 环境无法运行 smolmachines,因为它没有 /dev/kvm,也没有 vmx/svm CPU 标志,因此不支持嵌套虚拟化。解决办法是改用暴露了 /dev/kvm 的 GitHub Actions ubuntu runner,在那里安装 smolvm 并直接运行测试套件。

查看单篇正文查看原文
05

TechCrunch AI

Binance 让 AI 代理可交易

·#ai-agents

Binance 让 AI 代理可交易

Binance 推出了 Agent OS,这是一个允许 AI 代理通过交易所的 API 和相关工具分析市场并代表用户下单交易的平台。该系统还新增了对 Model Context Protocol(MCP)的支持,并可连接 ChatGPT、Claude Code 和 Cursor 等工具。

这标志着 AI 代理从“提供建议”走向了在全球最大加密交易所之一内直接执行真实金融操作。它可能加速自动化交易和链上工作流,但也会带来权限管理、提示注入和用户侧风险控制等新问题。

Binance 表示自己拥有超过 3 亿注册用户,并在周四推出了 Agent OS,作为一个让 AI 代理代表用户分析市场并执行交易的新平台。公司将其定位为把 AI 应用和自主代理直接接入 Binance 金融系统的基础设施。此次发布整合了多项现有产品,包括 Binance APIs、Binance Wallet Agentic Hub、Binance x402 交易验证与支付促进 API,以及 Binance Skill Hub。它还新增了对 Model Context Protocol 的支持,这是一种把 AI 应用连接到外部工具和数据的开放标准。Binance 说,该平台可以与 OpenAI 的 ChatGPT 和 Codex、Anthropic 的 Claude Code,以及 Cursor 等工具配合使用。也就是说,用户可以授权代理访问市场数据、查看账户信息并执行交易。Binance 产品副总裁 Jeff Li 表示,公司刻意没有给代理“完全自由”,而是把控制权放在用户手中,并把权限控制设置在账户层面。主要防护方式是使用专用子账户,用户可以把这些子账户分配给代理,用于现货或期货等特定活动。子账户的提现默认被禁止,从而给代理的操作建立一个沙箱环境。

用户还可以选择每一笔订单都需要审批,还是在配置好权限后让代理自动交易。Binance 并没有为子账户内的 AI 交易单独设置亏损上限,因此转入该子账户的资金规模实际上就成了限制。Li 还表示,Binance 无法看到代理做出某个决定时的推理过程,因为这一过程发生在交易所系统之外,可能在用户电脑上,也可能在其选择的 AI 应用中。因此,Binance 只能监测到交易结果,却很难判断该决定是否受到错误信息或操纵影响。面对提示注入攻击或其他被入侵的情况,Li 仍然强调子账户是主要防线,Binance 也表示其现有的安全、风控和反洗钱政策会适用于 Agent OS 的子账户 API。交易是首批重点场景,但 Binance 也认为代理还可以用于监控市场、开展研究和风险分析、响应信号,以及执行套利等策略。通过 x402 和 Agentic Wallet,Agent OS 还可以扩展到支付和链上活动,不过这些操作都受 Binance 设定的日限额约束。Li 将这次发布称为 Binance 迈向第一步,未来目标是为 AI 驱动的应用提供一个能跨加密市场和传统市场运作的平台。

Binance 表示,代理会被隔离到专用子账户中,默认禁止提现吗,用户还可以选择每笔交易都要审批,还是在授权后自动执行。公司并未单独为该子账户内的交易设置亏损上限,而 Agentic Wallet 的操作则有 Binance 设定的日限额,例如普通兑换每天 5 万美元、DeFi 交易默认每天 10 万美元、x402 支付每天 20 美元。

查看单篇正文查看原文
06

TechCrunch AI

OpenAI 预览企业隐私安全监测

·#openai

OpenAI 预览企业隐私安全监测

OpenAI 正在向部分客户预览一项名为 Private Safety Processing 的新自动化安全系统,它可以监测滥用行为,同时不保留客户数据。此举明显是为了回应 Anthropic 对部分“覆盖模型”实施的 30 天数据留存政策。

这项发布凸显了 AI 厂商如何在企业隐私与滥用检测之间寻找平衡,尤其是面对处理敏感数据的客户时。它也加剧了 OpenAI 与 Anthropic 之间的竞争对比,因为两家公司都在争夺更安全、更值得信任的企业产品。

随着 AI 模型能力不断增强,被滥用的风险也在上升,这迫使公司在加强安全护栏的同时尽量不牺牲企业客户的隐私。OpenAI 现在推出了 Private Safety Processing,这是一个面向部分客户的预览服务,目标是在不保留客户数据的前提下检测滥用行为。OpenAI 将这项系统描述为对其现有 Zero Data Retention 模式的隐私保护扩展。与按单次会话监测不同,Private Safety Processing 可以跨多个对话分析输入和输出,从而识别那些分散、缓慢进行的滥用尝试。OpenAI 表示,这有助于发现可能为了绕过常规防护而刻意拉长时间、拆分请求的恶意行为。

如果系统识别到可疑活动,它会向 OpenAI 发送一个范围很窄的信号,表明具体的风险类型。随后,OpenAI 可以决定是否需要采取处置措施;如果需要,公司可能会联系客户获取更多上下文,或与客户一起处理问题。OpenAI 还表示,客户可以在自己决定的情况下选择进一步分享数据。这项举措也明显是在回应 Anthropic 最近推出的 30 天留存政策,该政策适用于 covered models,包括 Mythos-class 模型以及未来具有类似能力的模型。Anthropic 表示,保留窗口是为了支持安全分析,但这已经让一些企业客户感到不安,因为他们不希望自己的数据被 AI 实验室存储或审查。

OpenAI 表示,Private Safety Processing 在 Zero Data Retention 基础上扩展了能力,可以跨多个对话进行长周期监测,而不只是按单次会话检查。如果被触发,它会向 OpenAI 发送一个范围很窄的信号以便决定是否执行处置;相比之下,Anthropic 的方案允许在受控访问和不可篡改日志下进行有限人工审查。

查看单篇正文查看原文
07

The Verge AI

格雷格·布罗克曼成了OpenAI权力核心

·#openai

格雷格·布罗克曼成了OpenAI权力核心

《The Verge》报道称,格雷格·布罗克曼实际上已经成为OpenAI的二号人物,他的职责已从产品扩展到更广泛的商业和扩张运营。随着OpenAI准备IPO并持续流失高管,这一变化正在发生。

这篇报道说明,OpenAI正把权力集中到一位技术能力很强的管理者手中,同时公司也在转向营收增长和上市准备。其重要性在于,这一阶段的领导层变化可能重塑产品优先级、内部决策方式,以及公司相对 Anthropic 等竞争对手的地位。

OpenAI 在今年经历了不少动荡,包括与 Elon Musk 的陪审团审判、Apple 提起的商业秘密诉讼,以及外界对一款未发布模型入侵另一家 AI 公司事件的关注。与此同时,公司正在为 IPO 做准备,并且高管团队持续流失。The Verge 认为,在这样的背景下,格雷格·布罗克曼已经悄然成为 OpenAI 内部的核心权力人物。布罗克曼是 OpenAI 的总裁和联合创始人,自公司成立以来一直是关键工程负责人之一。早期他与 Ilya Sutskever、Sam Altman 等联合创始人共同分担权力,但尽管头衔多年没有变化,他的实际职责已经明显扩大。高管离职在 4 月明显加速,当月离开的包括 Bill Peebles、Kevin Weil 和 Srinivas Narayanan,随后 Kate Rouch 和 Fidji Simo 也先后离开。

Simo 因医疗原因休假后,布罗克曼接管了产品工作,包括 OpenAI 的超级应用计划;随后在一次以营收增长为目标的组织重构中,他又获得了 scaling 团队的管理权。这样一来,他几乎掌握了 OpenAI 所有商业运营的决策权。Simo 在 OpenAI 正式提交上市文件后不久正式离职,也让这一安排进一步固定下来。The Verge 还指出,布罗克曼的存在感已经体现在公司对外沟通中,比如 Denise Dresser 离职的新闻稿里引用的是布罗克曼而不是 Altman。PitchBook 的分析师表示,这类高管职责变化通常意味着公司战略方向的变化,并认为布罗克曼兼具技术深度与产品规模化能力,可能会压缩决策层级,但也会让内部压力更集中。

文章称,在 Fidji Simo 因医疗原因休假后,布罗克曼接管了产品工作,包括 OpenAI 的超级应用计划;随后在一次以营收为重点的高管重组中,他又获得了公司整个 scaling 团队的管理权。当 Denise Dresser 离职的新闻稿中出现的是布罗克曼而不是 Sam Altman 的引述时,他的影响力已经公开可见。

查看单篇正文查看原文
08

OpenAI News

·#openai

OpenAI推出AI Futures博客

OpenAI推出了AI Futures,这是一个新的博客,聚焦于变革性AI可能如何影响权力、治理、经济和个人自由。此次发布更像是一个讨论广泛社会影响的平台,而不是一项技术产品更新。

这很重要,因为它表明 OpenAI 正在公开强调政策和社会问题,而不仅仅是模型研发。关注 AI 政策、治理以及更广泛科技行业的人,可以借此观察一家大型 AI 公司如何界定长期风险与收益。

OpenAI 推出了一个名为 AI Futures 的新博客。该博客的目标是探讨变革性 AI 可能如何重塑社会的重要领域,包括权力、治理、经济和个人自由。此次发布的定位更像是对长期影响的探索,而不是一项产品公告。所提供的材料中没有提到新的模型、基准测试或技术能力。

文章的重点在于,随着 AI 系统变得越来越有影响力,随之而来的更广泛问题。正因为如此,这个博客不仅与政策讨论相关,也会吸引关注 OpenAI 对外表达方式的普通读者。由于目前的描述非常简短,尚未披露作者、更新频率或未来文章的具体形式。

这次公告刻意保持在较高层面,没有提到新的模型、基准测试或研究成果。根据现有材料,这个博客更像是围绕变革性 AI 的评论和分析,而不是带有即时技术限制或性能声明的发布。

查看单篇正文查看原文
09

Simon Willison

·#llms

LLM 可能让网页应用更易扩展

Jeremy Morrell 认为,网页上的可扩展软件迎来了新的机会。他指出,LLM 降低了编写扩展的成本,而现代沙箱原语降低了部署扩展的成本和风险。

如果这一判断成立,更多网页应用就能在不依赖强平台控制的情况下安全地开放自定义能力。这可能扩大团队能构建的产品范围,也让用户更容易按自己的工作流改造软件。

2026 年 8 月 19 日,Simon Willison 发布了一段 Jeremy Morrell 的引语,讨论他对网页上可扩展软件的新判断。Morrell 的核心观点是,LLM 大幅降低了编写扩展的成本。与此同时,他认为现代沙箱原语降低了扩展的部署负担,并提供了良好的安全边界。按照他的设想,应用本身可以作为一个稳固、可问责的核心存在,而用户则可以在安全的前提下向多个方向扩展它。

他进一步指出,LLM 可以补齐那些原本会让扩展开发过于昂贵或过于复杂的缺口。这样一来,软件就能给用户带来“超能力”。这篇内容本质上是一则引语收集,因此它提出的是一个战略性假设,而不是某个具体实现或经过验证的成果。

Morrell 的想法是让应用保留一个“稳固、可问责的核心”,再借助 LLM 让用户朝多个方向扩展它。这个引用没有给出具体实现,但强调沙箱边界对安全很重要,扩展的作用是补齐缺失的部分。

查看单篇正文查看原文
10

Simon Willison

·#ai-assisted-development

AI 代理与代码行数的意义

Simon Willison 发布了他与 Claire Giordano 录制的 Talking Postgres 节目的一段轻度编辑转录,主题是 AI 如何改变软件开发。他在其中提出,在编码代理时代,代码行数仍然可以作为一种有用的生产力信号,但前提是代码质量保持高水平,并且输出真正达到可投入生产的标准。

这篇文章重新审视了软件工程中一个长期争论:当 AI 能显著加速编码时,原始产出指标是否仍然有意义。它也指出了使用代理时团队面临的新瓶颈——不再只是打字速度,而是认知容量和概念一致性。

Simon Willison 说,他最近与 Claire Giordano 录制了一期 Talking Postgres,讨论主题是 AI 正在如何改变软件开发。文章摘录了这次对话中他对“代码行数是否还能作为生产力指标”的一套更成熟的观点。Willison 并不接受“代码行数完全没有意义”这种一概而论的说法,而是认为在编码代理介入之后,这个指标依然有参考价值,因为它存在一个真实的上限。按照他的说法,传统意义上一名软件工程师做得很好的时候,可能也只是一天写出几百行可投入生产的代码,而 200 行经过调试、可直接用于生产的代码,已经是非常出色的一天。大多数日子里,开发者可能只会产出 50 到 60 行这样的代码。Willison 认为,如果代理能让工程师产出大约 1000 行经过调试的代码,那将是非常显著的提升,但前提是代码质量必须保持不变,也就是仍然要可维护、经过测试并完成调试。

与此同时,他强调,要达到这个水平需要大量技能、知识和经验,最有可能驾驭这些工具的人正是资深工程师。Willison 还提出,代理虽然能让单个工程师的产出大幅增加,但公司并不因此就只需要一个工程师,因为真正的限制因素变成了认知容量,而不是纯粹的编码速度。之后,文章转向 Fred Brooks 在《The Mythical Man-Month》中提出的“概念完整性”概念,即优秀软件应当整体一致、没有意外、且各部分都严密契合其所覆盖的领域。Willison 认为,编码代理会让这种一致性更难维持,因为你可以很快通过提示词做出一个功能,但软件也更容易沿着奇怪的方向长出零碎的“凸起”。Giordano 用 Winchester Mystery House 来类比这种现象,而 Willison 也认可这个比喻,认为它很好地描述了软件在缺乏约束时可能出现的失控扩张。

Willison 说,过去一名工程师表现很好的时候,通常也只是每天写出几百行可投入生产的代码;而在保证代码可维护、经过测试并完成调试的前提下,编码代理有可能把这个数字推高到 1000 行左右。他还警告说,编码代理会让软件沿着不同方向不断长出“奇怪的小凸起”,从而更难保持概念上的整体一致性。

查看单篇正文查看原文
11

TechCrunch AI

Liquid Death 调侃用尿液冷却数据中心

·#data-centers

Liquid Death 调侃用尿液冷却数据中心

TechCrunch 报道了 Liquid Death 与 Jason Kelce 合作的一则营销活动,广告里把“用尿液冷却 AI 数据中心”当作笑点。文章随后指出,虽然广告很荒诞,但现实中确实已经有替代水源,例如回收废水,被用于数据中心冷却。

这篇报道点出了 AI 基础设施的一个真实压力:数据中心会消耗大量水资源,运营方正在寻找减少对饮用水供应依赖的方法。随着 AI 算力需求增长,回收水和再生水在数据中心冷却中的作用也变得越来越重要。

TechCrunch 先用一则带有恶搞风格的 Liquid Death 广告开场,广告中前费城老鹰队球星 Jason Kelce 夸张地说,AI 数据中心浪费了数百万加仑的水,因此大家应该用“尿液”来给电脑降温。广告本身显然是为了搞笑,画面里人群一边喝着联名饮料,一边高喊“大家一起往电脑上尿,拯救人类”。但文章很快转向这个笑话背后的真实问题:AI 数据中心确实需要大量用水来防止服务器过热。Ecolab 的 Michael Obradovitch 告诉 TechCrunch,许多设施已经在使用替代水源,以减少对饮用水的依赖。WateReuse Association 的 Bruno Pigott 进一步解释说,再生水来自对废水和污水的处理,而废水本身就可能含有尿液。

Pigott 强调,不能把原始尿液直接倒进冷却塔,因为其中含有盐分、尿素、细菌和其他有机物,会产生沉积并迫使系统频繁清洗。文章还提到,尿液在某些场景下确实可以被处理成可饮用水,例如航天器上就会回收处理尿液,但这种方式不适合数据中心的大规模用水需求。CDM Smith 的 Greta Zornes 说,再生水已经在很多行业使用了几十年,而数据中心需求激增后,她现在几乎每天都在处理这类项目。文章最后指出,使用再生水可以减轻当地饮用水供应压力,但前提是当地必须具备每天处理数百万加仑水的基础设施。

Ecolab 的 Michael Obradovitch 表示,替代水源已经被用于数据中心冷却;WateReuse Association 的 Bruno Pigott 也指出,废水可以经过处理后再利用,而不是直接使用。文章还提到,未经处理的尿液会因为含有盐分、尿素、细菌和有机物而污染冷却系统,因此真正的再利用必须依赖膜生物反应器、反渗透和紫外线等处理设施。

查看单篇正文查看原文
12

TechCrunch AI

Google 让出版商添加首选来源按钮

·#google-search

Google 让出版商添加首选来源按钮

Google 现在向出版商提供一个可嵌入的“首选来源”按钮,读者可以直接在出版商自己的网站上把该站点标记为喜欢的来源。这样设置后,该来源有机会在 Google 搜索、Discover、Google News 以及 Google 的 AI 体验中更频繁地出现。

这项变化旨在帮助依赖流量的出版商,在 AI 驱动的搜索功能减少网站点击后,重新获得一部分曝光。它也让读者能更直接地调节内容来源,同时给出版商一个增强用户忠诚度和引荐流量的具体工具。

Google 正在扩展它的 Preferred Sources 功能,新增一个可以由出版商嵌入到自己网站上的按钮。读者可以通过这个按钮把某个出版商标记为首选来源,从而让该站点更有机会出现在 Google 搜索、Discover、Google News 以及基于 AI 的体验中。此举发生在 AI 搜索工具不断削弱网站流量的背景下,这给严重依赖搜索引荐的出版商带来了压力。Google 早在 5 月就把 Preferred Sources 推向了 AI Mode 和 AI Overviews,而在此之前,这个选项也已出现在 Top Stories 中。

Google 表示,在那次早期发布时,用户已经通过该功能选择了超过 345,000 个独特来源。该公司认为,这一机制能帮助读者在搜索或使用 Google AI 学习某个话题、浏览新闻时,更容易找到自己熟悉且信任的网站。Google 还称,当首选来源出现时,它们被点击的概率是普通来源的两倍。除此之外,Google 还计划让用户用自然语言来定制 Discover 信息流,并让 Android 用户在 Google News 应用中个性化音频每日简报。

Google 表示,这一功能延续了它在 5 月为 AI Mode 和 AI Overviews 推出的 Preferred Sources 体系,而且当时用户已经选择了超过 345,000 个独特来源。Google 还称,在可用时,首选来源获得点击的可能性大约是普通来源的两倍,同时它还在为 Discover 和 Google News 的音频简报增加新的个性化选项。

查看单篇正文查看原文
13

TechCrunch AI

Runlayer与Rippling撤诉,警示仍在

·#ai-startups

Runlayer与Rippling撤诉,警示仍在

Runlayer和Rippling在周三晚间都撤回了诉讼,法院文件显示双方没有达成和解、没有金钱往来,甚至连律师费都没有支付。随后,Rippling立刻发布了其MCP网关,也就是这场争议的核心产品。

这起事件生动说明,AI创业公司会很快遇到意料之外的竞争对手,甚至可能就是潜在客户。它也表明,在AI时代,产品迭代速度远快于合同和销售周期时,漫长的企业测试流程会变得更危险。

Runlayer和Rippling在周三晚间结束了这场短暂的法律交锋,双方都撤回了对彼此的诉讼。TechCrunch查看的法院文件显示,此事没有以和解收场,没有任何金钱往来,甚至连律师费都没有支付。随后,Rippling迅速发布了自己的MCP网关,也就是这场争议的核心产品。事件起因是,Rippling据称在长达一年多的时间里测试Runlayer的MCP网关,而且双方工程团队在此期间合作密切。Runlayer方面称,Rippling最终并没有成为客户,而是自己开发了一个竞争产品。Runlayer还表示,Rippling的一名员工曾发短信给Andrew Berman,称公司正在打造自己的MCP网关,并计划把它作为产品发布,而对方把这个产品描述成Runlayer的克隆版。

基于这些情况,Runlayer提起诉讼,指控Rippling违反了围绕产品测试而签订的合同约定。随后,Rippling反诉,称Runlayer侵犯了它的一些专利;Runlayer则认为,这是为了逼迫自己撤诉并增加其法律支出。经过三周取证后,Runlayer撤回了诉讼,Rippling也随之撤诉。文章给出的更大教训是,AI产品开发速度太快,企业常见的长期测试周期可能让创业公司面临突如其来的市场变化和内部竞争。如今,Rippling的新网关已经进入一个竞争激烈的市场,竞争对手包括Stripe、Ramp、Databricks、Runlayer、Docker和Amazon Bedrock;而Runlayer则把自己定位为更广泛的代理安全服务提供商,除了网关之外,还包括代理创建和“影子AI代理”检测。

Runlayer于2025年11月低调出山,并称已从包括Keith Rabois和Felicis在内的投资方筹集了4200万美元。争议产品是MCP网关,它负责为企业AI代理请求路由到内部系统,同时加入基于角色的访问控制、日志和使用轨迹等功能。

查看单篇正文查看原文
14

TechCrunch AI

Ramp推出Router模型路由API

·#ai-infrastructure

Ramp推出Router模型路由API

Ramp推出了Router,这是一个仅面向美国用户的AI模型路由服务,允许用户通过API在多个大语言模型之间切换。Ramp表示,这套系统已在公司内部使用了三年,服务在2026年底前免费,并提供26美元的启动额度。

这让Ramp直接进入快速增长的AI基础设施市场,企业希望通过一层统一接口来管理不同模型供应商之间的选择、成本、延迟和故障切换。它也为Ramp提供了更深绑定现有客户的新入口,并把业务从费用管理延伸到AI使用和支出控制。

Ramp最广为人知的业务是企业费用管理,如今它推出了一款名为Router的AI模型路由产品。该服务允许公司通过API发送请求,并在多个大语言模型供应商之间切换,而不必分别对接每一家。Ramp表示,这套路由系统已经在公司内部用于自身AI需求长达三年。该产品目前仅在美国可用。它在2026年剩余时间内免费,但用户仍需支付底层模型推理成本,Ramp还提供了26美元的上线额度。公司尚未说明2027年以后将如何收费。功能上看,Router与OpenRouter类似,但Ramp当前支持的模型数量还少于OpenRouter。

Ramp称Router可接入OpenAI、Anthropic、DeepSeek、Moonshot、Minimax、Nvidia、xAI和Z.ai等模型。它还提供多种路由策略,例如偏好供应商的flex使用层、根据最多三个用户自定义基准进行选择,或者只把困难问题发送给更昂贵的模型。用户还可以看到一个仪表板,里面展示token支出、成本、延迟、回退尝试等使用数据。Ramp表示,Router采用可选择退出的数据保留策略,默认会保存模型输入、输出和工具调用一年,但在用于改进产品前会移除个人身份信息。对Ramp来说,进入模型路由业务意味着一方面可以切入蓬勃发展的AI推理市场,另一方面也能把这项能力与其现有的AI token使用监控和支出管理产品结合起来。如果Router像OpenRouter那样吸引AI实验室和推理提供商,Ramp还可能借此建立新的长期合作关系,并为销售其费用管理产品打开新的入口。

Router目前支持来自OpenAI、Anthropic、DeepSeek、Moonshot、Minimax、Nvidia、xAI和Z.ai的模型,并提供基于供应商偏好、基准测试或请求难度的路由策略。Ramp表示,系统默认会保留模型输入、输出和工具调用一年,但在用于改进产品前会移除个人身份信息。

查看单篇正文查看原文
15

TechCrunch AI

Meta AI 推出 Mac 听写与屏幕感知帮助

·#meta-ai

Meta AI 推出 Mac 听写与屏幕感知帮助

Meta 发布了一款新的 Meta AI Mac 应用,内置系统级听写功能,并且可以根据当前屏幕内容回答问题。此次更新还面向企业用户扩展了 Meta AI,允许他们连接 Instagram、Facebook、Meta 广告活动以及 Google Workspace 账户,以获得 AI 驱动的洞察。

这让 Meta AI 不再只是聊天助手,而是更像一款桌面生产力工具,可以覆盖 Mac 上的任意应用和用户的工作场景。对企业来说,这也意味着 Meta 正在更深入地进入 AI 辅助营销和办公流程,并与其他生产力和助手平台竞争。

Meta 宣布推出一款新的 Meta AI Mac 应用,加入了系统级听写功能和屏幕感知问答能力。该听写功能可在 macOS 的所有应用中使用,这使它与平台上已有的其他听写工具站在同一赛道上。公司表示,这款应用还可以查看当前屏幕内容,并借助 Muse Spark 模型基于这些上下文回答用户问题。也就是说,它不只是一个普通聊天窗口,而是能对桌面上正在发生的事情做出反应。Meta 将这次发布定位为面向企业用户的更大更新的一部分。

商家可以连接 Instagram 和 Facebook 账号、Meta 广告活动,以及 Gmail、Docs、Sheets、Slides 等 Google Workspace 服务。连接之后,Meta AI 可以回答有关广告活动表现和受众互动的问题,帮助用户判断哪些帖子和投放效果最好。Meta 还表示,该助手可以基于公开数据提供竞品情报,并生成提案演示文稿、草稿和电子表格。公司近来一直在强调其 AI 产品在商业自动化方面的价值,包括在 WhatsApp 和 Instagram 上处理客户支持和咨询。Meta 首席执行官 Mark Zuckerberg 在公司 2026 年第二季度财报电话会上表示,向企业出售智能体并替他们自动化工作,是一个巨大的机会。

Meta 表示,这项听写功能可在所有应用中使用,类似 Wispr Flow、Superwhisper 和 Monologue 等工具。屏幕感知问答由 Meta 的 Muse Spark 模型驱动,而企业集成功能可以提供广告活动表现、受众互动指标、基于公开数据的竞品情报,甚至生成提案演示文稿、文档和电子表格。

查看单篇正文查看原文
16

The Decoder

Adobe Firefly新增音频工具和Gemini Omni Flash

·#adobe-firefly

Adobe Firefly新增音频工具和Gemini Omni Flash

Adobe已在Firefly中广泛推出三项AI音频工具:生成音乐、生成语音和生成音效。与此同时,Firefly还新增了Google的Gemini Omni Flash模型,并为Firefly AI助手提供每日免费生成次数。

这让Firefly从图像和视频创作进一步扩展到更完整的音频工作流,可能对视频创作者和营销团队更有价值。加入Gemini Omni Flash也说明Adobe正在把Firefly打造为多模型平台,而不是只依赖单一自研模型。

Adobe正在为Firefly扩展一组以音频创作为核心的新AI功能,并加强对多模态模型的支持。公司表示,三项工具已经广泛开放:Generate Music、Generate Speech和Generate Sound Effects。Generate Music用于为视频生成免版税音乐,Generate Speech可将脚本转为配音,Generate Sound Effects则为单独场景生成音频。Adobe称这些工具都已获得商业使用许可,这对面向专业创作者的Firefly定位非常关键。除了音频能力之外,Adobe还表示Firefly AI Assistant现在提供每日免费生成次数。

公司同时指出,“Create Storyboard”和“Create Brand Kit”是该助手最常用的功能之一。在模型方面,Adobe已将Gemini Omni Flash加入Firefly。该模型除了文本提示外,还支持视频、音频和图像输入。Gemini Omni Flash加入了Firefly现有的第三方模型阵容,其中包括Google、Kling AI、Luma AI和Runway。整体来看,这次更新扩大了Firefly的能力范围,但更像是一次渐进式的平台扩展,而不是单一的重大突破。

Adobe表示这些新音频工具可用于商业用途,其中Generate Music面向视频的免版税音乐,Generate Speech用于配音,Generate Sound Effects用于场景级音效。Gemini Omni Flash支持视频、音频、图像和文本输入,并加入了Firefly现有的第三方模型阵容,包括Google、Kling AI、Luma AI和Runway。

查看单篇正文查看原文
17

The Decoder

护栏让LLM文本更易被检测

·#llms

护栏让LLM文本更易被检测

这篇文章认为,ChatGPT、Claude 和 Gemini 等系统的后训练安全护栏会缩小其表达范围,从而让输出更容易被检测出来。文中引用了 Pangram 首席技术官 Bradley Emi 的观点:基础模型以及某些狭窄微调模型更难被识别,因为它们的表达更丰富。

如果这一判断成立,就意味着对齐和安全微调可能带来一个意外副作用:让 AI 生成文本更容易被识别。这对 AI 检测工具、内容审核,以及任何需要区分人类写作和机器输出的人都很重要。

这篇文章提出,大型语言模型理论上可以像人类一样写出多样化文本,但现实中后训练会让它们更容易被识别。Pangram 首席技术官 Bradley Emi 认为,像 ChatGPT、Claude 和 Gemini 这样的系统在预训练之后,会加入安全护栏和行为规则。按照他的说法,这些约束会缩小模型愿意使用的表达范围,从而产生他所说的“模式坍塌”。他表示,Pangram 的检测方法对基础模型不太敏感,因为这些原始模型具有更多语言多样性。

Emi 还说,只在有限领域上训练的特化微调模型,例如只学 Hemingway 风格文本或某些 subreddit 数据的模型,也可能因为同样原因而不容易被检测。对他来说,破损或不连贯的文本也属于另一类,因为它们偏离了典型的 AI 生成模式。文章强调,这一说法只适用于未加水印的 AI 文本。最后,文章指出,水印是另一回事,即使模型输出更具多样性,它们也可能仍然有效。

Emi 的论点核心是“模式坍塌”,也就是后训练规则会减少模型可生成文本的多样性,使其输出更窄、更可预测。文章还指出,这一说法只适用于未加水印的 AI 文本,因为水印被认为即使在模型输出更具多样性的情况下也应当保持可检测。

查看单篇正文查看原文
18

WIRED AI

硅谷误读了对 AI 的反弹

·#ai-ethics

硅谷误读了对 AI 的反弹

《Wired》报道说,硅谷领袖越来越想解释公众为何反感 AI,但他们的解释没有抓住反弹的真正原因。文章认为,这不仅是就业或传播方式的问题,而是更广泛的信任危机,而且流行文化已经开始公开嘲讽 AI 和数据中心。

如果公众不信任继续加深,AI 产品的普及可能会放缓,企业的大规模 AI 投资也会更难获得正当性。这个争论还关系到技术政策,因为数据中心、创作者、学生和就业方面的担忧正在塑造围绕 AI 的政治环境。

文章认为,硅谷仍在努力理解公众为什么越来越反感人工智能,但它对这场反弹的解释明显没有抓住重点。作者指出,这种抵触并不只是一个品牌或公关问题,而是与信任、劳动、文化和权力等更深层次的担忧有关。文章举例说,Liquid Death 和 Garage Beer 最近拍了一支广告,请 Jason Kelce 把尿装进瓶子寄到 AI 数据中心,说明 AI 怀疑论已经变成一种主流文化笑点。作者认为,这种广告之所以有效,是因为它击中了公众普遍的挫败感,而不只是对失业的恐惧。

文章援引皮尤研究中心的数据称,30 岁以下美国人中超过一半的人对 AI 的担忧多于兴奋,而且这种担忧在过去五年里上升了 24%。文章还提到,在所有年龄组中,超过 70% 的受访者认为 AI 会导致更少的就业机会。除了就业问题,公众还担心 AI 会伤害年轻人建立有意义关系的能力、削弱学生的批判性思维,并引发创作者作品被用于训练模型却得不到补偿的公平性问题。作者最后强调,像马克·扎克伯格和 Anthropic 首席执行官 Dario Amodei 这样的行业领袖,仍然低估了问题的核心,因为人们首先是不信任这些开发 AI 的公司。

文章援引皮尤研究中心的民调称,30 岁以下美国人中超过一半对 AI 的担忧多于兴奋,五年内这一比例上升了 24%;在所有年龄组中,超过 70% 的受访者认为 AI 会减少就业。文章还提到,Searchlight Institute 的一项调查发现,围绕 AI 的不同话术几乎没有改变人们对其社会影响的看法。

查看单篇正文查看原文