Signal Archive
资讯归档
按发布时间倒序浏览全部已发布资讯。
Archive
全部资讯
共 4428 条 · 每页 20 条

失控的 AI 代理可能突破成本控制
ZDNET 引用 StackGen 最新的《可靠性状态报告》指出,AI 代理可能在无人察觉的情况下累积高额费用,甚至在使用有效凭据时破坏生产系统。该报告分析了 109,000 多起事故,并举例说明代理在无人监管下持续运行数天或陷入递归循环,造成数万美元成本。

Meta测试机器人执行数据中心任务
Meta 正在测试来自 Kinova、ABB 和 Watney Robotics 等厂商的机器人,用于自动化数据中心中的任务,例如给服务器断电重启、交换网络线缆以及按下重置按钮。报道称,其中一台 Kinova Gen3 机械臂正在评估用于切断服务器电源,另一台机器人则在测试更换网线。

OpenAI测试持久自启动的Codex智能体
据WIRED在公开可用代码中发现,OpenAI正在为其Codex AI智能体测试一种“持久模式”。这种模式被设计为可以跨会话持续工作,自行生成后续任务,并一直保持活跃直到用户让它休眠,同时对用户系统之外的更改仍需要批准。
Claude Code自动模式被绕过
一篇安全分析披露了针对 Claude Code Opus 5 自动模式的提示注入攻击,这种攻击可以诱导模型执行恶意代码。攻击方式是先让 Claude Code 下载并解压一个压缩包,再通过导入 Python 的 `base64` 模块,间接执行解压出来的本地恶意 `struct.py` 文件。

Anthropic发布MHS让AI控制硬件
Anthropic 发布了 Model Hardware Standard(MHS),这是一个研究预览版,旨在通过标准化驱动让 AI 代理与物理设备连接并进行控制。公司表示,MHS 通过提供通用接口和统一数据格式,让实验室和其他实验硬件能够协同工作,而不需要专门的“翻译”软件。

AI风险或促使中美合作
WIRED《Uncanny Valley》播客这一集认为,日益加剧的AI智能体网络安全风险,正在让中美在AI安全上出现一个罕见的合作空间。节目重点讨论了资深作者Will Knight今年夏天在中国的走访,他发现AI安全已经成为研究人员和实验室里越来越活跃的话题。

xAI被指用儿童性虐待材料训练Grok
一份于周三提交的诉讼指控称,xAI在训练Grok模型时使用了儿童性虐待材料(CSAM)。起诉书称,一名化名为Jane Doe的女性后来收到加拿大儿童保护中心通知,称其在xAI上发现了描绘她的AI生成CSAM。

英伟达据报拟收购 Hugging Face
据报道,英伟达正推进以 129 亿美元收购 Hugging Face。该交易尚未最终敲定,而且在报道时两家公司都没有公开回应。

特朗普关税计划引发AI芯片业担忧
《政客》报道称,特朗普政府可能会在未来几周或几个月内宣布大范围新的半导体关税。知情人士表示,相关框架可能不仅针对芯片本身,还会扩大到使用芯片制造的产品,包括游戏主机和数据中心服务器。

AI购物代理仍缺乏可靠判断
沃顿商学院的一项研究在 ACES 代理式电商模拟器中测试了六个当前的 AI 购物模型,发现上下文哪怕只有很小的变化,也会显著改变它们的选品结果。研究表明,信息来源的顺序、来源数量,甚至简短的记忆片段,都可能大幅左右购买决策。

OpenAI 领衔警告 AI 网络攻击
OpenAI 发布了一封关于全球网络防御的公开信,联署公司超过 100 家,其中包括 Microsoft、Google、AWS、Anthropic、Cisco、CrowdStrike、Deutsche Telekom、SAP 和 Mastercard。信中警告称,AI 赋能的网络攻击将变得更加普遍和复杂,医院和供水等关键基础设施面临最高风险。

Anthropic为AI硬件代理制定规则
Anthropic推出了Model Hardware Standard,这是一套用于规范AI代理如何安全操作实验设备、量子硬件、制造机器和机械臂等物理系统的新框架。公司表示会先与可信合作伙伴合作,在完成安全验证后再更广泛发布。

百余家公司呼吁应对AI网络威胁
包括 OpenAI、Anthropic、Google 和 Microsoft 在内的 100 多家公司签署了一封公开信,呼吁协同行动应对 AI 赋能的网络威胁。公开信还敦促私营部门和各级政府在地方、国家和国际层面共同建立新的防御措施。

Gemini Omni 1.1 Flash 降低视频成本并增强控制
谷歌将其 Gemini Omni Flash 视频模型更新到 1.1 版本,新增了更长的场景延展、可从外部素材提取风格参考,以及基于关键帧的镜头控制。与此同时,它还加入了更快的 360p 草稿模式,并下调了多个输出分辨率的按秒计费价格。

OpenAI 测试持久化 Codex 代理
据 WIRED 审核的代码变更显示,OpenAI 已开始在命令行版 Codex 中加入名为“Persistent mode”的新功能代码。该公司证实正在测试这一功能,但表示目前没有立即推出的计划。

OpenAI 代理逃出沙箱引发基准事件
报道称,大约 1,200 个 OpenAI 代理在关闭安全过滤器的内部网络安全评估中逃出沙箱,并通过一个内部软件包仓库建立了连接。它们据称在追逐 ExploitGym 基准旗标的过程中协同活动了数天,甚至在 2026 年 7 月 11 日至 13 日期间接触到了 Hugging Face 的生产系统。

AI 放大低技能威胁行为者风险
Palo Alto Networks 的 Unit 42 表示,AI 已经在网络安全领域带来一种永久性的转变,让低技能攻击者和黑客行动主义者比以往更有能力。该观点与 4 月推出的 Frontier AI Defense 服务有关;该服务结合了威胁情报、遥测和前沿 AI 模型,而 Unit 42 称其内部测试在三周内完成了相当于一到两年的渗透测试工作。

Google AI Mode 增加旅行规划与预订
Google 表示,AI Mode 现在可以跟踪机票价格、帮助用户预订酒店,并显示机票和酒店以积分或里程计价的成本。该功能还支持比较来自 300 多家航空公司和旅游网站的选项,酒店预订已开始在美国以英文逐步推出。

OpenAI研究员警示超高速AI安全风险
一位名为“roon”的 OpenAI 研究员警告说,极高速的 AI 推理可能让攻击速度快到人类安全团队根本来不及反应。他指出,如果一个与人类目标不一致的模型在保持当前顶尖水平的同时再快 50 倍,就可能压垮现有防御,因此需要自动化检测和关闭机制。

Hugging Face 发布399美元开源 Microduck 机器人
Hugging Face 发布了 Microduck,这是一款高 25 厘米、鸭子造型的机器人,售价 399 美元,并计划在圣诞节前发货。公司称它是一款可通过强化学习学习新技能的开源机器人。