从预算护栏到科学底座：AI智能体走向可控与可泛化

今日主题：让AI更可靠，也更可复用

本日入选的三则故事共同指向一个转变：AI能力的扩张必须配套新的工程护栏和开放基础设施。对于自主智能体，问题既包括“会不会乱花钱”，也包括“是否只会应付测试”；在科学领域，基础模型则开始承担连接海量观测数据与具体研究任务的角色。

排名速览

1. 自主代理必须默认启用硬性预算上限

按使用量收费的API、云服务和托管资源，应默认提供达到限额后立即暂停服务的硬性预算上限，而不只是发送提醒邮件。随着编码代理和个人代理能够在用户离线时调用付费API、计算和存储资源，硬性上限可以把失控或遭入侵服务的潜在损失限制在可接受范围内。

AWS已推出项目级月度支出上限，Google Cloud也提供类似的Spend Caps功能，但相关能力的开放范围和覆盖服务仍需关注。更合理的默认设置是先保护用户，愿意承担无限支出的用户再主动取消限制。

参考： 4761

2. RRSI试图阻止智能体“记住”测试

Google Cloud AI Research与学术机构提出RRSI，用于优化智能体的提示词、工具、工作流、记忆和控制逻辑，同时抑制其针对评测任务过拟合。该方法限制单次修改规模、逐步缩小编辑预算、记录失败尝试，并拒绝硬编码任务名称、答案等基准专用技巧。

研究团队在八个编程、办公智能体和工程设计基准上测试了方法。报告称，RRSI在未见任务上的表现有所提升，运行时令牌使用量约减少30%；不过其在更多模型、任务和评测环境中的泛化能力仍需验证。

参考： 4762

3. NASA与IBM发布开放月球基础模型

NASA、IBM Research及多所学术机构发布了开源NASA-IBM月球基础模型，主要利用月球勘测轨道飞行器17年的观测数据训练。其数据集SomBench整合四项任务、九台仪器的30多个空间对齐数据层，包含近200万个多模态图块集合，可支持冰沉积物预测、陨石坑检测等任务。

报告称，该模型在极区冰沉积物预测上的误差最多降低22%，粗尺度陨石坑检测效果提升近19%，相较所引用的SwinV2-B基线表现更好。开放模型与数据集降低了月球科学中重复利用大规模、低标注数据的门槛。

参考： 4763

编辑观察

今天的共同信号不是单纯的模型规模竞赛，而是围绕AI系统建立可信的运行条件：在生产环境中控制成本，在评测过程中验证真实泛化，在科研场景中通过开放基础模型提高数据复用率。智能体越自主，预算、评测和数据基础设施就越不能被视为附属功能。