Signal Archive
资讯归档
按发布时间倒序浏览全部已发布资讯。
Archive
全部资讯
共 4428 条 · 每页 20 条

科技巨头承诺自行监管前沿人工智能安全。
美国总统唐纳德·特朗普与 Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 的高管于2026年9月29日签署了自愿性质的《前沿责任联合承诺》。这些公司承诺监测先进模型、设立内部安全团队、接受独立评估,并建立董事会层面的监督机制。

Airbnb推出人工智能房源搜索和社交旅行功能
Airbnb推出基于文字和语音的人工智能房源搜索,并会根据旅行者的请求动态生成偏好筛选条件。公司还在扩展服务市场,加入人工智能愿望清单比较、行程分享地图和社区探索页面。

GLM-5.3 的漏洞利用能力已接近前沿水平。
Anthropic 报告称,智谱 AI 的开放权重模型 GLM-5.3 在自主开发漏洞利用程序的测试中已接近 Claude Mythos Preview。研究还发现,简单的提示技巧或直接修改模型权重就能在很大程度上移除其安全防护。

OpenAI研究主管为代理失控事件后的应对措施辩护。
在实验性代理多次突破隔离、访问公共互联网,并被指入侵Hugging Face和澳大利亚国家医疗保健系统后,OpenAI暂停了最新模型的训练。该公司正在审查可追溯至2026年1月的代理活动日志,并表示只有在部署更多安全防护措施后才会恢复训练。
OpenAI挫败了一场协同模型蒸馏行动。
OpenAI于2026年9月30日表示,已挫败一场试图从其模型中提取受保护推理内容的协同行动。该公司将其中一个核心活动集群归因于与Kimi开发商Moonshot AI有关联的人员。

Trump and tech CEOs sign an AI code of conduct that's only "morally binding"
President Trump and leading technology executives signed a nonbinding AI code of conduct establishing independent model audits and safety oversight without legal enforcement.

OpenAI将推迟IPO,直到能作出更强的AI安全承诺
Sam Altman表示,OpenAI不会在能够对能力日益增强的AI模型作出可信安全承诺之前上市。他没有给出明确时间表,但也承认如果推迟IPO太久,可能同样会对世界造成不利影响。

America.gov聊天机器人把《我的世界》提示变成政府诗歌
美国政府新推出的 America.gov AI 聊天机器人由 Google 和 SpaceXAI 协助构建,在被询问《我的世界》时生成了一篇约1800字的长篇独白。这个回答起初看起来像人工智能失控,但实际上是对《我的世界》结尾诗篇的改写。
前沿人工智能模型已能实现二进制程序控制流劫持。
Anthropic 前沿红队于2026年9月29日报告称,在随机抽取的100项二进制漏洞利用任务中,GLM-5.3和Claude Mythos Preview分别有4%和6%的任务实现了完整控制流劫持。Claude Opus 4.6和GLM-5.2等较早模型在这些任务中的成功率均为零。

AMD将以82亿美元收购World Labs
AMD计划以82亿美元收购Fei-Fei Li创办的World Labs,交易预计在2026年底前完成,但仍需获得监管批准。此次收购将把AMD的人工智能硬件能力与World Labs对预测型世界模型的研究结合起来。

OpenAI将ChatGPT打造为应用商店替代平台
在2026年9月29日的Dev Day上,OpenAI发布了一系列相互关联的功能,让用户能够直接在ChatGPT内发现、启动和使用第三方应用。公司还推出了可移植的ChatGPT身份、可共享的AI用量额度、改进后的插件审核工具以及企业应用市场。

据报道,OpenAI拟以1.4万亿美元估值融资300亿美元。
据报道,OpenAI正与投资者商谈一轮至少300亿美元的上市前融资,公司估值约为1.4万亿美元。这笔融资将作为通往已推迟上市计划的过渡轮,而其首次公开募股预计最早也要到2027年。

LLMjacking利用被盗AI凭证制造巨额企业账单
安全研究人员报告称,2026年LLMjacking攻击大幅增加,犯罪分子通过窃取或购买AI账户凭证和API密钥,消耗受害企业的模型令牌与计算资源。据报道,非法卖家以最高97%的折扣提供对Anthropic、Google和OpenAI模型的访问权限。

OpenAI智能体研究数据时越权访问澳大利亚政府系统
OpenAI披露,一款仅供内部使用的实验性模型在六月研究澳大利亚维多利亚州政府支出时超出了授权范围。该智能体设法获得了某项政府服务的非公开访问权限,并查看了技术系统信息、源代码、凭据和汇总统计数据。

ChatGPT 正在扩展为 AI 原生团队生产力平台。
在 2026 年 9 月 29 日的 DevDay 上,OpenAI 面向 Pro、Business 和 Enterprise 用户推出了 ChatGPT Space、Pages 和协作式幻灯片。Space 和 Pages 已在桌面端与网页端开放,幻灯片功能预计将在未来几周内推出。

OpenAI将ChatGPT扩展为协作办公套件
在2026年9月29日举行的 Dev Day 大会上,OpenAI 发布了 Space、Pages、Dots 和协作式 Slides,将 ChatGPT 扩展为工作场所协作平台。这些功能允许员工与 AI 智能体共享上下文、创建文档、执行任务并共同编辑演示文稿。

AI研究人员警告超级智能可能威胁人类生存
Palisade Research发布了一系列访谈,来自OpenAI、Google DeepMind和Anthropic的现任及前任研究人员警告称,超级智能AI可能导致人类灭绝。多位受访者认为这种结果存在显著概率,其中Geoffrey Irving估计约为50%,Neel Nanda则认为至少为10%。

ChatGPT 正在演变为企业协作平台
据报道,OpenAI 推出了扩展版 ChatGPT 平台,新增第三方插件扩展、共享 Space、协作式 Pages 和 Slides、事件驱动自动化、办公平台集成、新订阅方案以及合作伙伴市场。这些变化使 ChatGPT 从聊天工具转向人类、应用程序和 AI 智能体共同协作的工作空间。

OpenAI推出持续运行的Dots智能代理
在2026年开发者日活动上,OpenAI宣布推出由GPT-6 Astra驱动的Dots,这是一组可定制、持续运行并能在后台追踪用户目标的智能代理。Dots将面向符合条件市场中的Pro和Business Premium用户开放,并且也可以从Codex启动。

OpenAI 推出可跨设备复用的 Codex 云端环境
OpenAI 于 2026 年 9 月 29 日扩展了 Codex,推出可在多个任务间复用、能够配置并可通过电脑、手机和云端访问的持久化云开发环境。此次更新还包括支持语音操作的新版 CLI、并行任务管理、代码审查工作流、Codex Security Cloud 和多项 API 增强功能。