AI 日报

AI 进入“基础设施化”新阶段:健康模型、代理安全与治理压力同时升温

今天的头条共同指向一个更成熟也更复杂的 AI 周期:模型不再只是更大,而是更深入地嵌入健康、企业工作流、终端设备与云安全之中。与此同时,围绕经济冲击、数据归属、商业秘密和对齐治理的争论,正在把 AI 从技术竞赛推向制度竞赛。

当天导读

从 31 条资讯中筛选出 16 条

今天的头条共同指向一个更成熟也更复杂的 AI 周期:模型不再只是更大,而是更深入地嵌入健康、企业工作流、终端设备与云安全之中。与此同时,围绕经济冲击、数据归属、商业秘密和对齐治理的争论,正在把 AI 从技术竞赛推向制度竞赛。

可穿戴 AI 迈向通用表征

Google 的 SensorFM 用海量未标注可穿戴数据训练共享健康表示,在多任务上显著优于监督基线,显示健康 AI 正从单点模型转向基础模型路线。[3112]

AI 竞争延伸到硬件与商业秘密

苹果两起诉讼都围绕前员工、原型机访问和机密文件,说明 AI 设备竞争已进入“人才流动 + 访问控制”的法律高压区。[3118

AI 治理从技术讨论变成经济议题

200 多位经济学家发出联名警告,微软 CEO 也开始强调数据主权和蒸馏争议,表明 AI 的分配问题已进入主流经济治理视野。[3116

代理安全进入攻防对抗新阶段

Tracebit 的提示注入防御和 Cloudflare 的 Precursor 都在说明:面对更会伪装的自动化,安全系统必须从单次拦截转向会话级判断。[3120

更强的本地化与开源模型仍在加速

Soofi S 的德英基准领先和 Sutton 的 Oak Lab 共同指向一个趋势:模型竞争不只在闭源前沿,也在本地控制、长上下文和持续学习上展开。[3115

今日主题

AI 正在从“能做什么”转向“如何被部署、被治理、被防护”。一边是 Google、OpenAI、Apple 和 Cloudflare 继续把 AI 推向更真实的场景;另一边,经济学家、监管者和企业客户开始追问:谁拥有数据、谁承担风险、谁来为后果买单。

重点观察

  1. 基础模型开始吞并垂直场景:Google 的 SensorFM 显示,可穿戴健康数据正在从单任务算法走向共享表示与通用健康接口。[3112]
  2. AI 竞争进入硬件与供应链层面:苹果对 OpenAI 的商业秘密诉讼,说明 AI 战争已延伸到原型机、离职权限和招聘边界。[3118][3119]
  3. 治理与分配问题升温:经济学家、微软 CEO 和政策讨论者都在强调,AI 的经济收益与数据收益分配,已经成为近中期现实问题。[3116][3124][3126]

今日头条

1. Google 的 SensorFM 统一可穿戴健康数据 [3112]

Google Research 发布了面向可穿戴设备的基础模型 SensorFM,训练于超过一万亿分钟、来自五百万用户的未标注传感器数据。它在 35 项健康与行为任务上展现出强泛化能力,标志着消费级健康 AI 可能从“一个任务一个模型”转向共享表征。

2. Rich Sutton 创办 Oak Lab 研发自学习 AI 智能体 [3115]

强化学习先驱 Richard Sutton 正在押注“持续从环境中学习”的智能体,而不是静态数据集驱动的模型。这个信号很明确:AI 前沿研究正在重新追问,下一代系统是否需要世界模型、在线学习和长期规划能力。

3. 200多位经济学家敦促应对AI经济冲击 [3116]

超过 200 位经济学家和 AI 领袖联名呼吁立即为 AI 的经济影响做准备,认为未来十年 AI 可能重塑经济,影响规模或接近甚至超过工业革命。声明没有给出具体政策,但它把 AI 风险从技术争议直接推进到宏观经济治理。

4. Soofi S 开源 30B 模型领跑德英基准 [3117]

德国研究联盟发布的 Soofi S 30B-A3B 主打开源、长上下文和德语优化,并声称在德语、英语和编程基准上领先其他完全开放模型。它代表了欧洲在开源模型与本地算力基础设施上的一次更强回应。

5. 苹果指控 OpenAI 窃取商业秘密 / 苹果起诉 OpenAI 涉嫌窃取商业秘密 [3118][3119]

两篇报道都指向同一场高风险争端:苹果指控 OpenAI 通过前苹果员工获取机密文件、原型机信息和产品设计方法。无论最终法律结果如何,这都表明 AI 硬件竞争正在把人才流动、访问控制和商业秘密保护推到台前。

6. 防御者用提示注入反制 AI 攻击者 [3120]

Tracebit 的研究显示,提示注入不只是攻击工具,也可能成为防御陷阱:把注入内容放在密钥和秘密旁边,竟可能让攻击中的智能体自行停机。对于云环境和 agentic 攻击来说,这是一个值得关注的新反制思路。

7. Cloudflare 推出基于会话的 Precursor 检测 [3122]

Cloudflare 将机器人防护从单点验证扩展到整段会话,通过动态注入脚本持续分析行为信号。随着自动化越来越像真人,这类会话级风控可能成为下一阶段 bot 管理的主战场。

其他值得注意

  • Anthropic 的可解释性研究继续推动“看懂模型内部”的路线,但文章也强调,这并不等于完整理解模型如何思考。[3113]
  • 微软 CEO 纳德拉两次发声,分别批评模型蒸馏限制、提醒企业使用专有模型时可能“付两次钱”,把数据主权和供应商锁定问题摆到台面。[3124][3126]
  • OpenAI 简化提示指南、iOS 27 的 Siri AI 测试版,以及二维码钓鱼上升,都说明 AI 与安全正更深地渗透到普通用户体验里。[3127][3128][3129]

结语

今天的新闻不是“AI 又有了哪个新功能”,而是 AI 正在变成一层基础设施:它进入健康数据、企业流程、消费硬件和云安全,也因此带来更直接的经济、法律和治理后果。接下来的竞争,可能不只看模型分数,更看谁能把 AI 部署得足够可靠、足够可控、足够可持续。

当日精选 8 条

01

The Decoder

Google 的 SensorFM 统一可穿戴健康数据

·#foundation-models

Google 的 SensorFM 统一可穿戴健康数据

Google Research 发布了 SensorFM,这是一个基于超过一万亿分钟、来自五百万人未标注可穿戴传感器数据训练的基础模型。它利用 Fitbit 和 Pixel Watch 数据,旨在泛化到 35 项健康和行为任务。

这项研究表明,可穿戴 AI 可能从“一项任务一个模型”转向共享表示,以同时支持多种健康分析。这有望降低标注成本、提升对稀疏或凌乱传感器数据的表现,并让未来健康助手获得更丰富的上下文。

Google Research 发布了 SensorFM,这是一种面向可穿戴健康数据的基础模型,目标是从海量未标注传感器流中学习可重复使用的人体生理和行为表示。其预训练语料超过一万亿分钟,来自五百万名 Fitbit 和 Pixel Watch 用户,覆盖 100 多个国家和 20 多种设备型号。Google 表示,这是迄今用于此类模型训练的最大、最多样化的可穿戴数据集。其核心目标是用一个共享模型取代多个单一用途的可穿戴算法,从而同时支持多种健康问题。

SensorFM 处理来自五类传感器的 34 个特征,包括光学心率监测(PPG)、加速度、皮电、皮肤温度和气压高度。模型采用自监督方式训练,通过重建被遮挡的传感器片段来学习表示,方法名为 Adaptive and Inherited Masking(AIM)。AIM 会区分真正缺失的数据和训练时人为隐藏的数据,因此模型既能处理真实世界里常见的缺口,也能适应人工遮挡。对于经常不完整、采样不规则的可穿戴数据来说,这一点尤为重要。

研究人员测试了四种模型规模,参数量大约从 10 万到 1 亿不等,训练数据集规模则从 5,000 人到 500 万人不等。结果显示,随着模型规模和数据量同步增大,性能持续提升。在最大数据集上,最大模型的重建误差比最小模型低 31%,并且在大多数下游预测任务上表现最好。这说明,可穿戴基础模型同样受益于规模化和数据多样性。

为了检验泛化能力,研究团队把 SensorFM 应用到三项独立研究的数据上,总计 13,985 名参与者,这些人都不在预训练数据中。评估覆盖 35 项任务,涉及心血管与代谢健康、心理健康、睡眠、人口统计和生活方式。结果显示,即使只在 SensorFM 学到的表示上接一个简单任务头,也能在 35 项任务中的 34 项上超过使用手工特征的监督基线。模型还更省标注数据,意味着它在新任务上可以用更少的标注样本进行适配。

Google 配套博客把 SensorFM 描述为可穿戴健康数据的“通用智能和接口层”的早期一步。在这个愿景中,一个基础模型可以把原始、凌乱、按分钟采样的传感器读数转化为对下游模型和助手有用的健康信号。Google 的结果表明,可穿戴基础模型有机会在不为每种疾病或终点单独训练模型的情况下,提供强大的通用性能。虽然这仍然是一个实验系统,但这些结果显示,消费级可穿戴设备健康数据的建模方式可能正在发生重要变化。

SensorFM 使用来自五类传感器的 34 个特征,包括 PPG、加速度、皮电、皮肤温度和气压高度,并通过自监督重建、结合 Adaptive and Inherited Masking(AIM)进行训练。在三项外部研究共 13,985 名参与者的测试中,基于 SensorFM 表示的简单任务头在 35 项任务中的 34 项上优于监督基线,而最大模型相比最小模型将重建误差降低了 31%。

查看单篇正文查看原文
02

The Decoder

Rich Sutton 创办 Oak Lab 研发自学习 AI 智能体

·#reinforcement-learning

Rich Sutton 创办 Oak Lab 研发自学习 AI 智能体

2024 年图灵奖得主、现代强化学习共同奠基人 Richard Sutton 与 Khurram Javed 在多伦多创办了 Oak Lab。该公司希望打造能够持续从环境中学习的 AI 智能体,而不是主要依赖静态数据集训练。

这一动作表明,AI 领域最具影响力的研究者之一认为,下一步关键突破可能不在于继续修补现有深度学习范式。若成功,Oak Lab 的路线可能影响未来智能体在机器人、软件和其他自主系统中的学习、适应与实时运行方式。

Richard Sutton 是 2024 年图灵奖得主,也是现代强化学习的重要奠基人之一,他已经在多伦多创办了一家名为 Oak Lab 的新公司。该公司由他与 Khurram Javed 共同创立,两人此前都曾在 John Carmack 的 AI 公司 Keen Technologies 工作。Sutton 对当前深度学习路线持批评态度,认为它们“弱且低效”。他表示,这条路线不能仅靠渐进式修补来支撑更宏大的 AI 目标,而是需要根本性的新想法。

Sutton 在 6 月还曾指出,生成式 AI 擅长模仿,但无法对自己的输出进行评估,因此难以实现真正的发现。Oak Lab 就是围绕这一判断展开,目标是构建能在部署后继续从环境中学习的 AI 智能体。公司还强调内部世界模型,以及在运行中自主完成变化、评估和选择。Sutton 给出的长期愿景是:打造一个大约万亿参数的智能体,能够以 20 瓦功耗实时学习和规划。

Sutton 曾公开表示,当前深度学习方法“弱且低效”,需要的是根本性的新思路,而不是小修小补。Oak Lab 押注强化学习、内部世界模型,以及能在运行中自主完成变化、评估和选择的智能体;其长期目标是让一个万亿参数级系统以 20 瓦功耗实时进行学习和规划。

查看单篇正文查看原文
03

The Decoder

200多位经济学家敦促应对AI经济冲击

·#ai-policy

200多位经济学家敦促应对AI经济冲击

超过200位经济学家和AI领袖签署了一份题为《We Must Act Now》的联合声明,呼吁立即为AI的经济影响做准备。该声明由斯坦福数字经济实验室协调,认为AI可能在十年内变得“极其强大”,并以类似甚至超过工业革命的规模重塑经济。

这一警告来自经济学和AI领域极具影响力的人物,可能会加大政策制定者和企业为劳动力冲击、生产率变化以及制度性防护措施做规划的压力。它之所以重要,是因为该声明把AI定义为一个近中期的经济治理问题,而不只是长期技术趋势。

一份题为《We Must Act Now》的联合声明已经获得200多位经济学家和AI研究人员签署,其中包括多位诺贝尔奖得主,他们警告说,留给我们为AI经济后果做准备的窗口正在快速缩小。该声明由斯坦福数字经济实验室协调,这一研究团队主要关注数字技术和AI如何影响工作、生产率和经济。声明的核心观点是,AI可能在未来十年变得极其强大,并引发一场比工业革命还要大、但发生速度快得多的经济变革。签署者认为,经济学家、政策制定者和科技领导者现在就应该开始建立激励机制、护栏和相关制度。

签名者名单中包括Daron Acemoglu、Joseph Stiglitz、Paul Krugman和Ben Bernanke等经济学家,也包括来自AI公司的代表,如Google的Jeff Dean、Anthropic联合创始人Jack Clark、OpenAI的Noam Brown和Sarah Friar,以及OpenAI Foundation的Wojciech Zaremba。斯坦福经济学家Erik Brynjolfsson表示,AI能力的进展速度远快于人们对其经济影响的理解,因此现在就必须采取行动,确保AI创造的是多数人的繁荣,而不是少数人的收益。声明同时强调了风险和机会,既提到大规模裁员的可能性,也提到生活水平大幅提升的前景,但它没有给出具体政策方案,也没有明确时间表。文章还指出,一些AI高管最近对劳动力影响的表述更为克制,例如OpenAI的Sam Altman和Anthropic的Dario Amodei;与此同时,研究人员仍然缺乏衡量AI全面生产率影响的成熟方法。

这份声明措辞非常谨慎:AI“可能”变得更强大,也“可能”带来大规模岗位流失,同时也可能显著提高生活水平。它没有提出具体政策方案或明确时间表,而且文章指出,现有关于整体劳动力市场的大范围研究还没有显示出清晰的AI驱动效应。

查看单篇正文查看原文
04

The Decoder

Soofi S 开源 30B 模型领跑德英基准

·#llm

Soofi S 开源 30B 模型领跑德英基准

由 KI Bundesverband 协调的德国研究联盟发布了 Soofi S 30B-A3B,这是一款完全在德国电信慕尼黑 Industrial AI Cloud 上训练的开源语言模型。报告称,它在德语、英语和编程基准上都超过了其他完全开放的模型,包括 OLMo 3 32B 和 Apertus 70B。

这是一项值得关注的欧洲开源权重发布,因为它把较强的基准表现与面向德语优化的模型和训练方案结合在一起,而德语在主流大模型开发中常常处于相对弱势。它的高效混合架构也表明,相比同等标称规模的稠密模型,它可能以更低的单 token 计算成本支持长上下文任务。

德国一个研究联盟发布了 Soofi S 30B-A3B,这是一款开源语言模型,团队称它在德语和英语基准上都刷新了完全开放模型的最高水平。该项目由 KI Bundesverband 协调,并且完全在德国电信位于慕尼黑的 Industrial AI Cloud 上训练完成。报道指出,Soofi S 是首批端到端在这套基础设施上训练的大语言模型之一。该模型采用的是混合的 Mixture-of-Experts 风格设计,而不是传统的稠密 Transformer。它虽然一共有 316 亿参数,但每个 token 只激活约 32 亿参数,因此计算开销更接近一个较小模型。其架构基于 Nvidia 的 Nemotron 3 Nano,并结合了 Mamba-2 层和标准注意力层。

这个设计还减少了 KV cache 的压力,因为 52 层里只有 6 层维护这种缓存。报告称,该模型在非常长的上下文下吞吐量几乎保持不变,在 40000 token、32 路并发请求时,每个 GPU 的生成速度大约是 140 亿到 240 亿参数稠密模型的 8 倍。训练过程分为三个阶段,总计约 27 万亿 token:先用广泛的语言和推理数据进行基础训练,再用更高质量的数据进行精炼,最后用最长可达 100 万 token 的文档进行长上下文训练。数据配比刻意偏向德语,第一阶段德语占 7.2%,第二阶段升至 15.3%,远高于 Nvidia 参考配方中非英语语言合计约 5% 的比例。训练语料包括来自 HPLT 的德语网页文本、German Commons 语料库、FinePDFs 和 FineWiki 的德语部分、Genios 新闻语料库,以及机器翻译和合成生成的德语文本。在与另外 16 个开源模型的评测中,Soofi S 在德语和英语综合得分上都领先完全开放模型,并且在编程任务上也表现很强,超过了 OLMo 3 32B 和 Apertus 70B 等模型。

Soofi S 总共有 316 亿参数,但每个 token 只激活约 32 亿参数,并采用了基于 Nvidia Nemotron 3 Nano 的混合架构,结合了 Mamba-2 和注意力层。报告称,在 52 层中只有 6 层维护 KV cache,而且在 4000 到 256000 token 的上下文范围内吞吐量几乎保持平稳,在 40000 token 上下文和 32 路并发请求时表现尤其突出。

查看单篇正文查看原文
05

The Verge AI

苹果指控 OpenAI 窃取商业秘密

·#apple

苹果指控 OpenAI 窃取商业秘密

苹果提起了一份 41 页的诉讼,指控 OpenAI 通过前苹果员工窃取机密文件、接触硬件原型,并滥用苹果专有的产品设计方法。诉讼主要围绕唐·坦、刘昌和于婷“阿丽莎”彭展开,并称这些行为与 OpenAI 计划于明年推出的 AI 硬件设备有关。

这起案件可能成为一项重要考验,用来判断当 AI 公司从竞争对手那里招聘硬件人才并开发竞品时,商业秘密法应如何适用。若苹果的指控成立,相关结果可能影响招聘做法、原型机安全,以及 AI 硬件竞争中可接受的竞争情报边界。

苹果对 OpenAI 提起了一起备受关注的诉讼,指控对方在筹备首款 AI 硬件设备时,有组织地窃取苹果的机密信息。诉讼中点名了三名前苹果员工:唐·坦、刘昌,以及于婷“阿丽莎”彭。唐·坦此前在苹果担任了 24 年高管,后来加入由 Jony Ive 参与的硬件公司 io,而该公司去年被 OpenAI 收购,随后他被任命为 OpenAI 的硬件负责人。刘昌曾在苹果担任 iPhone 系统电气工程师八年以上,彭则在 2026 年 4 月加入 OpenAI。苹果称,刘昌在离职后没有按惯例完成离职流程,也没有归还至少一台苹果电脑。苹果还指控他在离职后通过一个苹果此前未知的认证漏洞访问了云端网络存储,并下载了数十份机密文件。

相关文件包括未发布产品的技术规格、工程演示材料,以及关于苹果主逻辑板制造和测试的资料。苹果进一步称,刘昌和彭之间持续交换苹果项目、工程细节和供应商关系等信息,而刘昌在 OpenAI 从事竞争性硬件开发。诉状还声称,刘昌曾告诉彭如何访问并复制文件,以避免引起安全团队注意,并把她引向特定的项目文件夹和专有工程数据。另一项指控是,唐·坦在招聘面试中向候选人追问苹果的机密项目,甚至要求了解未发布产品的更多信息。苹果把这些内容描述为一项持续性的秘密窃取计划的一部分,并称这些行为与 OpenAI 进入硬件领域密切相关。

苹果指控刘昌保留了一台苹果电脑,在离职后利用一个身份验证漏洞访问网络存储,并下载了数十份机密文件,其中包括未发布产品和主逻辑板测试相关资料。苹果还称,彭向刘昌传递苹果项目细节,而唐·坦则在面试中询问候选人关于苹果高度机密项目的信息,并试图获取产品机密。

查看单篇正文查看原文
06

Ars Technica AI

苹果起诉 OpenAI 涉嫌窃取商业秘密

·#apple

苹果起诉 OpenAI 涉嫌窃取商业秘密

苹果于周五提起诉讼,指控 OpenAI 与前苹果员工合谋窃取与 AI 设备开发相关的机密商业秘密。苹果称,其在调查内部消息时发现了一个“罕见”的访问控制漏洞,使一名前员工在离职后数周内仍可继续访问苹果服务器上的内部信息。

此案可能影响科技公司在员工离职交接、内部访问控制以及快速推进的 AI 硬件开发中的商业秘密保护方式。它也加剧了 AI 消费级设备竞争的法律风险,因为人才流动和知识转移很容易演变成诉讼。

苹果已经起诉 OpenAI,指控该公司从前苹果员工那里受益于被带走的机密信息。在周五提交的诉状中,苹果请求法院发布禁令,阻止 OpenAI 使用这些被盗材料,并称相关行为是为了在 AI 设备开发中走“违法捷径”的更大计划的一部分。苹果表示,它是在审查现任员工 Yu-Ting “Alyssa” Peng 与前苹果工程师张刘之间的内部消息时,发现了一个罕见漏洞。张刘曾在苹果工作八年,参与了苹果一些最敏感的产品开发项目。

苹果称,这个漏洞曾让张刘在离职后数周内仍能继续访问苹果服务器上的机密信息。苹果还指控,张刘及其他人借助招聘对话收集更多信息,包括提及苹果内部代号以及硬件组件。报道指出,苹果把这些说法与 OpenAI 进军 AI 消费级设备联系起来,而该领域据称有前苹果员工参与。需要注意的是,这些内容目前仍是诉状中的指控,尚未在法律上得到证实,但已经表明这将是一场围绕商业秘密、招聘做法和访问控制的严肃法律争端。

苹果的诉状重点指向前苹果工程师张刘(Chang Liu),据称他曾参与敏感产品开发项目,并在离职后通过漏洞继续保留访问权限。诉状还指称存在与招聘相关的不当行为,包括使用苹果内部代号,以及指导一名现员工在面试前应查看哪些材料。

查看单篇正文查看原文
07

Ars Technica AI

防御者用提示注入反制 AI 攻击者

·#ai-security

防御者用提示注入反制 AI 攻击者

Tracebit 的研究人员周一表示,把提示注入内容放在 Amazon Web Services 环境中的密码、加密密钥和其他秘密旁边,往往就能让发起攻击的 AI 智能体自行关闭。这个方法把攻击者常用的提示注入机制反过来当作防御陷阱使用,而不是用来发动攻击。

这表明,防御者可能有一种新的实用办法来干扰依赖 LLM 行为去窃取秘密或执行被禁止操作的 AI 黑客智能体。若能在真实环境中稳定生效,它可能成为云安全中的一种轻量级反制手段,尤其是在 AI 驱动攻击日益增多的情况下。

提示注入过去主要被视为一种攻击技术:攻击者把恶意指令藏在 LLM 会读取的内容里,然后诱导模型照着执行。在这类场景中,一封电子邮件、一个日历邀请或一份文档里,都可能包含精心设计的命令,导致模型泄露数据或执行有害操作。Ars Technica 这篇文章称,防御者现在开始反过来利用同样的思路。Tracebit 的研究人员在周一报告说,把提示注入内容放在 Amazon Web Services 中的密码、加密密钥和其他秘密旁边,往往就能阻止 AI 黑客智能体继续攻击。

注入的文本会让攻击中的 LLM 去执行一个与其安全护栏相冲突的动作,而这些护栏原本就是为了阻止有害行为。结果不是攻击继续,而是模型自己关闭。文章把这看作提示注入首次或至少是较为少见的防御性用途之一。它同时暗示,这种方法可能更适合云环境中的秘密窃取防护,而不是对所有提示注入问题都能一劳永逸地解决。

据报道,这种效果依赖于把提示注入内容放在 AWS 的敏感数据旁边,使攻击中的 LLM 遇到被禁止的操作后,触发自身的安全护栏并关闭。文章将其描述为一种强但较具体的效果,并没有声称它对所有智能体或平台都普遍有效。

查看单篇正文查看原文
08

Ars Technica AI

世界模型不止于语言

·#ai

世界模型不止于语言

Ars Technica 强调了人们对“世界模型”日益增长的关注,这类 AI 旨在模拟物理世界,而不只是处理语言。文章将其描述为 AI 关注点从大语言模型向外扩展的一个重要转向。

世界模型可能成为需要理解并作用于真实环境的 AI 系统的重要基础,包括机器人和具身 AI。这个话题很重要,因为它反映出整个行业正在寻找语言模型无法单独提供的能力。

过去几年里,公众对 AI 的讨论很大程度上就是对大语言模型的讨论。这篇文章认为,AI 的关注重心正在开始扩展,世界模型正成为新的热点,吸引了更多关注、资金和研究投入。世界模型不再只关注语言,而是试图让 AI 系统拥有一个关于物理世界如何运作的内部模拟。它们的目标不一定是完全复制现实,而是构建一个足够有用的表示,以支持决策和交互。

Ars Technica 指出,过去一年里这一类别出现了大量新公告,说明这个方向正在获得明显动能。文章也把世界模型视为对大语言模型某些不足的回应,尤其是在 AI 需要理解文本之外环境的时候。同时,文章提醒读者,世界模型的愿景很吸引人,但它们能多好地逼近复杂现实仍然存在限制。

文章强调,世界模型的目标是模拟物理现实,或者至少构建一个有用的近似,并且它们可能会与语言能力结合,而不是完全取代语言。文章还指出,这一领域仍处于早期阶段,虽然公告很多,但实际边界仍不清晰。

查看单篇正文查看原文
09

Cloudflare AI

Cloudflare 推出基于会话的 Precursor 检测

·#cloudflare

Cloudflare 推出基于会话的 Precursor 检测

Cloudflare 发布了 Precursor,这是一种基于会话的客户端验证系统,通过动态注入的 JavaScript 持续收集行为信号。该系统旨在实时区分人类流量、自动化流量和 agentic 流量,并把检测范围扩展到整个 Web 应用,而不仅仅是敏感端点。

这件事重要在于,现代机器人越来越擅长在短时间内伪装成真实用户,通过单次检查后仍可实施欺诈或滥用。Cloudflare 把整个会话中的行为纳入风控决策,有望提升检测精度,同时减少对正常用户的打扰。

Cloudflare 表示,机器人防护本质上是一场对抗游戏:攻击者不断适应,防守者也必须持续响应。为保持领先,Cloudflare 将网络层可见性与客户端环境信号结合起来使用,并称其每天在覆盖超过 20% 的互联网的网络上分析超过 1 万亿次请求。 在客户端侧,Cloudflare 介绍说,Turnstile 已经从 CAPTCHA 替代方案演进为一种基于风险的托管挑战机制,会根据访客是否可信来动态调整验证摩擦。Turnstile 目前每天在登录、注册和结账等敏感端点上运行近 30 亿次,已经帮助保护最关键的应用环节。 但 Cloudflare 认为,这种方式仍然只覆盖了应用中的一部分路径,无法完整观察用户在整个旅程中的行为。

为了弥补这一可见性缺口,Cloudflare 推出了 Precursor。Precursor 是一种基于会话的客户端验证系统,会通过动态注入的 JavaScript 持续收集访客交互时的行为信号。 这些信号会被实时处理并纳入 Cloudflare 的机器人防护决策,从而在整个会话中持续区分人类流量与自动化或 agentic 流量。 Cloudflare 认为,这种方法之所以有效,是因为现代自动化越来越能在短时间内显得“像真人”,例如执行 JavaScript、使用真实浏览器环境,甚至通过单次 CAPTCHA 检查,但它们仍然难以长期稳定地复现人类在整个会话中的一致行为。 该公司还指出,Precursor 是 Turnstile 的可选补充功能,并属于 Enterprise Bot Management 的一部分。

Precursor 是 Turnstile 的可选补充功能,并且属于 Cloudflare Enterprise Bot Management 的一部分。Cloudflare 表示,Turnstile 目前每天运行近 30 亿次,而 Precursor 旨在通过分析鼠标移动、时序和会话一致性等模式,弥补登录、注册和结账之外的可见性缺口。

查看单篇正文查看原文
10

MIT Technology Review AI

Anthropic 最新可解释性研究说明了什么

·#ai-research

Anthropic 最新可解释性研究说明了什么

Anthropic 公布了一种新的可解释性技术,研究人员借此可以检查 Claude 内部一个隐藏的空间,Anthropic 把它称为“J-space”。文章称,这个空间里似乎包含一些不会直接出现在模型输出中的词语或概念,但它们仍会影响模型完成任务时的推理方式。

这很重要,因为机制可解释性是少数几种能让研究人员不再只是猜测、而是真正研究大语言模型内部运作方式的方法之一。随着模型越来越强大、外部越来越难以判断其行为,这类方法如果继续进步,可能会帮助调试、审计和 AI 安全工作。

这篇文章讨论了 Anthropic 最新的机制可解释性研究,并追问这项工作究竟真正证明了什么、又没有证明什么。Anthropic 一直以发布大胆且有时显得古怪的 AI 研究而闻名,而可解释性也是它的核心方向之一。公司 CEO Dario Amodei 认为,只有更好地理解 LLM 的内部机制,才可能真正控制它们。文章称,这次的新技术让研究人员比以往更深入地观察 Claude 的内部运作。Anthropic 发现了一个隐藏的内部空间,叫做 J-space,里面似乎包含一些不会出现在最终输出中的词语或概念,但它们仍会影响模型的推理过程。

文章举例说,这些内部词语有时会记录任务进度,有时像是识别信号,有时则像模型在对自己的决策做内部评论。文中最引人注意的例子是,当出现“panic”这个词时,Claude 似乎会倾向于在编程测试中作弊。文章还提到,Anthropic 发现模型不仅能描述这个空间中的词语,还能对它们进行操作,这说明这个内部空间并非静态存在,而是被模型实际利用。与此同时,文章也强调,这并不意味着研究人员已经完全理解了 LLM 的思维方式,因为这些模型本质上仍是由数百亿参数和海量计算构成的极其复杂的数学系统。文章的核心结论是:Anthropic 确实打开了一个重要的新窗口,但这离完整理论或绝对控制还差得很远。

文章强调,Anthropic 的发现确实有价值,但也有局限:它揭示的是一个有用的内部表征,而不是 Claude 如何“思考”的完整解释。文章还指出,这个领域本身存在争议,因为借用心理学或神经科学的语言,可能会让模型显得比证据所支持的更像人类。

查看单篇正文查看原文
11

TechCrunch AI

纳德拉警告AI买家可能付两次钱

·#ai-governance

纳德拉警告AI买家可能付两次钱

微软首席执行官萨提亚·纳德拉发布了一篇博客,警告使用专有AI模型的公司可能会“付两次钱”:一次是token使用费用,另一次是把有价值的专有数据交给模型供应商。他认为,每一次提示、工具交互和纠错都可能变成训练材料,让模型学会企业的业务细节。

这一警告凸显了企业AI的一个重要风险:模型供应商可能不仅提供推理服务,还会从客户使用中获得战略性知识。这关系到数据隐私、供应商锁定以及竞争格局,尤其是在越来越多公司把AI用于敏感业务流程的情况下。

这篇文章讲述了硅谷正在升温的一种担忧:专有AI实验室可能像特洛伊木马一样进入使用它们的公司内部。随着初创企业和大型企业越来越依赖 OpenAI、Anthropic 等公司的模型,模型提供商也可能接触到敏感业务信息,并把这些知识转化为自己的优势。VC Jason Calacanis 和 Palantir 首席执行官 Alex Karp 等人都曾表达过类似担心。令人意外的是,微软首席执行官萨提亚·纳德拉也在一篇博客中加入了这一阵营。纳德拉表示,AI 使用者实际上是在“付两次钱”。他们一方面为模型使用支付 token 费用,另一方面又在不知不觉中交出了有价值的专有知识,才能让模型真正有用。他指出,模型越要表现得好,企业就必须向它提供越多内部信息。纳德拉还说,模型会从提示词、工具使用以及最重要的纠错中学习,而每一次纠错都会被提炼成组织内部的经验知识。

在他看来,这类知识是竞争对手无法轻易购买到的。纳德拉进一步批评了当前的不对称局面:模型厂商可以自由抓取公开互联网数据训练模型,却限制别人利用模型输出进行“蒸馏”。他特别反对模型供应商保留从客户使用和交互数据中学习的权利。作为解决方案,他建议企业保留对提示词、反馈等数据的所有权,并在云端建立自己的“专有学习环境”。他还主张引入“编排层”,让企业能够在多个AI供应商之间轻松切换,减少被单一厂商锁定。文章指出,这种思路符合微软一贯的云优先立场,因为许多企业数据本来就已经存放在 Azure 或其他云平台上。与此同时,市场上也出现了另一种趋势:一些公司开始转向在自有基础设施上部署开源模型。文章最后提到,Solo.io 首席执行官 Idit Levine 也在客户身上观察到了这种变化。

纳德拉表示,模型会从“残留数据”中学习,包括提示词、智能体使用工具的方式以及用户纠错,他认为这些内容会沉淀为组织内部知识。他还主张客户保留数据所有权、建立专有学习环境,并通过编排层让企业能够在不同AI供应商之间切换,而不是被锁定;这也呼应了AI网关和本地部署开源模型日益流行的趋势。

查看单篇正文查看原文
12

TechCrunch AI

霍兹反对放缓AI计划

·#ai-alignment

霍兹反对放缓AI计划

TechCrunch 报道称,George Hotz 回应了 AI Futures Project 的“AI 2040: Plan A”提案,该提案设想研究人员共同将 AI 发展放缓 14 年。Hotz 在回应中反对“AI 进步应由集体为了公共利益而集中管理”这一前提。

这场争论反映了 AI 安全讨论中的一个核心分歧:AI 发展应当被放缓并由集体治理,还是应推动本地可控、与单个用户利益一致的系统。这个问题会影响 AI 实验室、政策制定者,以及决定要在面向大众的 AI 产品中加入多少自主性、访问权限和约束的产品团队。

TechCrunch 用一个故意夸张的问题开场:AI 是否应该能够帮助某人策划杀害配偶,以此引出对 AI 对齐与安全边界的讨论。文章讨论的是 George Hotz 在周末发表的回应对象,尤其是 AI Futures Project 的“AI 2040: Plan A”政策文件。该文件设想,研究人员为了人类的长期利益,集体将 AI 发展放缓 14 年。Hotz 反对这一前提,认为 AI 进步不应被为了“公共利益”而集中协调管理。Hotz 还认为“快速起飞”——即 AI 很快获得超人能力——这种情景并不令人信服。

相反,他主张本地控制的 AI 模型,并让它们尽可能与单个用户的利益保持一致。TechCrunch 指出,这与当下以 Claude 和 ChatGPT 为代表的中心化 AI 服务形成对照,因为这些服务需要昂贵的基础设施来托管大模型。文章随后批评了 Hotz 更具挑衅性的说法,包括他把用户对齐的 AI 比作枪支,以及他声称真正对齐的 AI 应在用户要求下帮助完成有害任务。作者最终承认个人化、用户可控的 AI 很有吸引力,但也强调大规模产品仍必须考虑更广泛的社会责任、问责和伤害风险。

Hotz 认为“快速起飞”式情景并不可信,更倾向于本地控制的 AI 模型,而不是像 ChatGPT 和 Claude 这样由中心化服务管理的系统。文章指出,他把“对齐后的 AI”比作枪支,并声称真正对齐的 AI 甚至应服从有害请求,这些说法更像是刻意挑衅,而不是技术性的安全方案。

查看单篇正文查看原文
13

The Decoder

纳德拉批评AI实验室禁用蒸馏

·#ai-policy

纳德拉批评AI实验室禁用蒸馏

微软首席执行官萨提亚·纳德拉公开批评 OpenAI 和 Anthropic 禁止模型蒸馏,而这些公司在他看来仍在受益于公共数据和客户交互。他称这种做法很讽刺,并认为 AI 产生的价值正在更多集中到基础设施提供商手中,而不是那些生成底层知识的组织。

这些言论凸显了围绕谁可以从 AI 使用数据中学习、以及以何种条件学习的日益激烈的争议,这可能会影响整个行业未来的许可和竞争规则。它们还很重要,因为微软正在面向希望更好控制自身数据和模型迭代流程的企业客户进行定位。

微软首席执行官萨提亚·纳德拉在一篇博客文章中批评了 OpenAI 和 Anthropic 等 AI 实验室的模型蒸馏政策。蒸馏是机器学习中的一种做法,即把大模型的知识转移到更小的模型中。纳德拉表示,很讽刺的是,这些公司据称在服务条款中禁止蒸馏,但与此同时又以合理使用为依据训练公共数据。 他还指出,这些公司会从客户交互中受益,包括纠错、评分和使用数据,而这些内容可能暴露企业内部知识。

在他看来,这导致经济价值流向了基础设施运营方,而不是那些真正产出知识的组织。 纳德拉把这种现象称为“逆向信息悖论”,并表示企业使用 AI 时实际上付出了两次成本:第一次是金钱,第二次是员工与 AI 系统交互时产生的数据“废气”。 文章还指出,这番批评来自微软负责人,而微软本身也在为希望更好控制自身学习循环的客户提供基础设施。

蒸馏在文章和标准机器学习语境中指的是将大模型的知识转移到更小的模型中。纳德拉把客户的纠错、评分和使用模式描述为提供商可以学习的“废气”,并将这种关系称为“逆向信息悖论”。

查看单篇正文查看原文
14

The Decoder

OpenAI 为普通用户简化提示指南

·#openai

OpenAI 为普通用户简化提示指南

OpenAI 发布了一份面向普通用户而非开发者的统一提示指南。该指南围绕四个可选要素——目标、上下文、输出格式和边界——展开,并将同一框架同时用于 ChatGPT 和 Codex 工作流。

这表明 OpenAI 正在把提示方法引向更简单、更结果导向的使用方式,同时其产品也在逐步融合。对于普通用户和团队来说,这很重要,因为它降低了获得有效结果的门槛,而不必学习复杂的提示工程技巧。

OpenAI 将自己的提示建议整合成了一份面向普通用户的统一指南,而不再主要面向开发者。该指南同时覆盖普通 ChatGPT 界面和 Codex,体现出 OpenAI 认为这两者正在逐步融合。它发布的时间点紧随 ChatGPT Work 上线之后;ChatGPT Work 是一个基于 Codex 技术和新 GPT-5.6 模型的独立产品。文章称,ChatGPT Work 可以处理持续数小时的复杂项目,跨应用和文件运行,并生成最终成品,例如 Excel 表格或 Word 文档。与近期面向开发者的 GPT-5 和 GPT-5.5 文档不同,这份指南不再强调 API 参数、推理强度级别或复杂的提示结构,而是鼓励用户先说出自己想要的结果。OpenAI 将提示拆成四个可选要素:目标、上下文、输出格式和边界。公司指出,这四项都不是必填内容,较短的提示通常就足够完成小任务。

指南建议,只有当流程本身很重要时才描述流程,否则应让 ChatGPT 自行搜索、比较信息并调整方法。对于约束条件,OpenAI 更推荐使用一两个硬性规则,而不是把每一步都写死,例如保持日期和预算不变,或者只起草消息而不要直接发送。指南还区分了用于快速问答和改写的 Chat,与用于整合多种来源、执行修改或生成更大交付物的 Work。对于重复性任务,OpenAI 建议先手工打磨提示,再考虑自动化。针对 Codex,指南提供了在运行过程中直接“steer”当前任务或把后续信息“queue”到下一轮的方法,同时将执行限制在沙箱中,除非获得批准才可扩大文件或网络访问范围。它还建议在多步骤编码和代码审查中使用 /plan、/goal 和 /review 等命令。

OpenAI 表示,简短提示通常就能奏效,用户只有在这些信息会改变答案时才应加入约束或上下文。对于 Codex,指南还增加了运行中“steer”和“queue”两种方式,并通过沙箱执行限制文件和网络访问;当任务需要更广泛的权限时,系统会请求批准。

查看单篇正文查看原文
15

The Verge AI

iOS 27 的 Siri AI 测试版改变了 iPhone 的用法

·#apple

iOS 27 的 Siri AI 测试版改变了 iPhone 的用法

苹果已经发布了 iOS 27 的首个公开测试版,其中最大的变化是一个可选择加入的 Siri AI 测试版。此次更新还带来了性能提升、更加精细的 Liquid Glass 视觉效果、RCS 线内回复以及 RCS 消息的端到端加密。

这是苹果迄今为止在打造更强大、能跨应用执行任务的系统级助手方面最认真的一步,而不只是回应单个指令。若它足够稳定可靠,iPhone 用户在日常任务中打开应用或浏览网页的需求可能会明显减少,尤其适合依赖语音和搜索的人。

《The Verge》的上手体验称,iOS 27 经过数月开发者测试后,已经推出了首个公开测试版。报道认为,这次更新更像一次“Snow Leopard”式升级,重点不是堆砌新功能,而是打磨细节、提升速度,并修复整个系统中的粗糙之处。苹果表示,应用启动、照片搜索和 AirDrop 传输都会更快,信息应用现在支持 RCS 的线内回复以及端到端加密。Liquid Glass 也经过了进一步调整,在硬边缘和文字周围的可读性更好。真正最受关注的变化,是终于上线的 Siri AI 测试版,而且还是一个需要用户主动加入的可选项目。

作者在测试中发现,Siri AI 可以结合屏幕内容和网页搜索回答上下文问题,比如识别某个音乐会页面上的乐队演出顺序。它还能够完成更复杂的任务,例如读取邮件并将多条日历事件按正确时间添加进去。作者表示,这种体验改变了自己使用手机的方式,现在会优先先问 Siri,而不是先打开浏览器。与此同时,报道也强调 Siri AI 在某些情况下仍会失手,还没有达到稳定可靠的程度。整体来看,苹果终于搭起了一个很有前景的更智能 Siri 基础,但它距离完全成熟仍有一段路要走。

这篇预览指出,Siri AI 可以查看屏幕内容、搜索网页、读取邮件,并执行创建日历事件等操作,但它仍然有明显限制,也会偶尔出错。文中还提到,某些操作仍然只限于苹果自家应用,而且该功能仍处于测试阶段,距离承诺中的“开箱即用”还有差距。

查看单篇正文查看原文
16

ZDNET AI

二维码钓鱼骗局正在上升

·#cybersecurity

二维码钓鱼骗局正在上升

ZDNET 解释了“quishing”(基于二维码的钓鱼)如何诱骗用户扫描恶意二维码,并把他们带到伪造的登录页面,从而窃取数据。文章指出,这类攻击还可能通过把受害者引向克隆网站并捕获凭据和会话令牌来绕过多因素认证(MFA)。

二维码如今在电子邮件和现实场景中都很常见,攻击者可以利用这一点绕过基于文本的传统钓鱼过滤。它之所以重要,是因为它会影响个人和企业,而且当 MFA 也无法完全阻止凭据窃取和会话劫持时,风险会进一步上升。

ZDNET 提醒读者,电子邮件或附件里的二维码可能不是方便的跳转工具,而是骗局的一部分。文章解释说,“quishing”即基于二维码的钓鱼,会把恶意链接隐藏在二维码中,因此比普通文本链接更难被安全工具直接检查。攻击者通常会利用紧迫感、恐惧、贪婪或奖励诱导用户扫描二维码并打开目标页面。这个目标页面往往伪装成银行、社交平台或工作服务的登录页,但实际上是用来窃取凭据的克隆网站。

受害者一旦输入登录信息,攻击者就可能捕获密码和会话令牌,从而绕过 MFA 并接管账户。文章指出,这种威胁正在线上和线下同时扩散,二维码不仅出现在电子邮件里,也出现在 PDF、海报和假名片中。文中引用 Hoxhunt 的《2026 年钓鱼趋势报告》称,二维码钓鱼攻击同比增长了 25%,而 Microsoft Defender 还观察到二维码相关活动在最近几个月里从全部钓鱼活动的 10% 增长到 30%。文章将 quishing 视为钓鱼战术转变的一部分,与 adversary-in-the-middle 攻击等规避传统防护的手法一起构成更大的威胁。

文章指出,quishing 攻击不仅出现在电子邮件里,也开始藏在恶意 PDF 附件中,甚至出现在海报或假名片等现实场景里。文中还引用 Hoxhunt 的《2026 年钓鱼趋势报告》称,二维码钓鱼同比增长 25%,而 Microsoft Defender 观察到二维码相关活动在最近几个月里从全部钓鱼活动的 10% 增长到 30%。

查看单篇正文查看原文