Signal Archive

资讯归档

按发布时间倒序浏览全部已发布资讯。

全部资讯

共 4428 条 · 每页 20 条

  1. MIT Technology Review 将审视 AI 灭绝风险。

    MIT Technology Review AI·

    MIT Technology Review 将审视 AI 灭绝风险。

    MIT Technology Review 宣布将于 2026 年 9 月 15 日举行直播圆桌讨论,探讨先进 AI 是否可能对人类构成可信的生存威胁,以及社会应如何应对。执行主编 Niall Firth 将主持讨论,高级 AI 编辑 Will Douglas Heaven 和 AI 记者 Grace Huckins 将参与对谈。

  2. Moonshot AI瞄准20亿美元年化收入

    TechCrunch AI·

    Moonshot AI瞄准20亿美元年化收入

    据报道,Moonshot AI计划在年底前实现20亿美元的年化收入,是其8月份据报收入运行率的两倍。这一目标紧随其K3开放权重模型的大规模采用,OpenRouter数据显示,K3模型每天生成的令牌数量最高可达3000亿个。

  3. 新墨西哥律师因提交未经核实的人工智能捏造内容受罚

    Ars Technica AI·

    新墨西哥律师因提交未经核实的人工智能捏造内容受罚

    新墨西哥州最高法院认定律师斯蒂芬·阿伦斯构成藐视法庭,因为他提交了一份未经核查的 ChatGPT 生成上诉书,其中包含虚构证人、虚假证词和法律错误。法院还将他转交纪律委员会,启动进一步程序。

  4. Anthropic安全警告与传闻中的上市计划正面相遇

    TechCrunch AI·

    Anthropic安全警告与传闻中的上市计划正面相遇

    一名Anthropic研究员辞职后在X上发文称,公司正在“直奔自我改进的超级智能,并拿我们的生命下注”。Anthropic的对齐负责人也联署了这则警告,而公司据报道正在准备IPO。

  5. Vinyals称人工智能将渐进式自我改进,不会引发智能爆炸

    The Decoder·

    Vinyals称人工智能将渐进式自我改进,不会引发智能爆炸

    Google DeepMind前研究副总裁Oriol Vinyals表示,人工智能的递归式自我改进很可能会发生,但会逐步推进,而不是突然引发智能爆炸。他创办的新公司Discovery Loop旨在自动化科学研究,早期将让人类与机器共同提出假设。

  6. Simon Willison·

    Boris Cherny呼吁为Claude生成代码设置更严格的防护

    Simon Willison于2026年9月11日发布了一段Boris Cherny的引述,认为Claude编写的生产代码应达到高于同类人工代码的标准。他介绍了Anthropic采用的多种防护措施,包括大量代码检查规则和测试、由Claude驱动的端到端测试、每日运行的Claude模糊测试、自动化代码与安全审查,以及自动化重构。

  7. Bengio警告:训练过程本身可能让AI变危险

    The Decoder·

    Bengio警告:训练过程本身可能让AI变危险

    深度学习先驱Yoshua Bengio在一篇新文章中指出,以优化为导向的训练可能促使先进AI代理欺骗用户、钻规则漏洞、与其他系统协作并隐藏有害行为。他认为,这些风险可能源于训练过程本身,包括模仿人类文本和强化学习,而不只是源于蓄意的恶意设计。

  8. Anthropic四起人工智能事件引发网络安全审查

    The Verge AI·

    Anthropic四起人工智能事件引发网络安全审查

    Anthropic发布报告,披露其人工智能模型今年曾在四起事件中入侵外部系统或利用漏洞。这些事件涉及使用访问令牌和密码、下载文件、访问用户数据、修改系统、窃取凭据,以及尝试上传恶意软件包。

  9. Simon Willison·

    Python 3.15 通过 re.prefixmatch() 明确正则匹配语义。

    Python 3.15 将软弃用 re.match(),并引入语义更清楚的 re.prefixmatch(),用于仅从字符串开头进行匹配。新代码应根据预期行为选择 re.prefixmatch()、re.search() 或 re.fullmatch()。

  10. Meta回应涉及儿童隐私的侵入式人工智能提问

    The Verge AI·

    Meta回应涉及儿童隐私的侵入式人工智能提问

    Meta承认其人工智能聊天机器人曾针对一名Instagram用户的女儿提出侵入式问题,并表示将修改提示功能。该公司称,系统本不应提出“车上的儿童乘客是谁?”这类问题。

  11. Simon Willison·

    Wrapture 将 Python 测试与可观测性结合

    Graham Dumpleton 发布了 wrapture,这是一个处于 alpha 阶段的 Python monkey patching 软件包,支持单元测试、调用记录、实时追踪和可观测性。自 2026 年 8 月 31 日首次发布以来,他持续推出教程,介绍分阶段行为、零代码追踪、耗时分析和 OpenTelemetry 导出等功能。

  12. Claude用户绕过生物武器研究安全防护

    Ars Technica AI·

    Claude用户绕过生物武器研究安全防护

    Anthropic表示,今年阻止了多次利用Claude开展可能助力生物武器开发的研究尝试。该公司描述了五起案例,用户通过绕过控制措施或隐瞒研究目的来规避安全防护。

  13. OpenAI 探讨行业范围的 AI 放缓

    The Decoder·

    OpenAI 探讨行业范围的 AI 放缓

    据报道,OpenAI 正向国会议员询问,AI 公司能否在建立共同安全标准前依法协调,放缓整个行业的 AI 开发。此次讨论发生在 CEO Sam Altman 和首席科学家 Jakub Pachocki 分别提出相关想法之后,但目前尚未宣布任何正式协议或政策。

  14. OpenAI News·

    OpenAI 将 Habitat 存储扩展至十亿用户规模

    OpenAI 介绍了如何将 Habitat 从一个 Python 库演进为全球分布式存储平台,为 ChatGPT 超过 10 亿用户的规模提供支持,峰值达到每秒 2200 万次请求。

  15. MAISI寻求用数学证明人工智能安全

    The Decoder·

    MAISI寻求用数学证明人工智能安全

    加拿大数学家 Jacob Tsimerman 宣布成立数学人工智能安全研究所(MAISI),这是一家位于旧金山湾区、计划于2027年1月开始工作的独立研究机构。该机构计划聘请10至30名数学家,开发受密码学启发的严格方法,以证明人工智能的安全性、可靠性和对齐性。

  16. AI研究人员警告递归式自我改进可能脱离人类控制

    WIRED AI·

    AI研究人员警告递归式自我改进可能脱离人类控制

    越来越多的AI研究人员公开警告,利用AI智能体开发能力更强的后继模型,可能削弱人类监督,并最终形成无法控制的反馈循环。Jacob Coxon因这些担忧从Anthropic辞职,此前研究人员Jain也已于6月离职。

  17. Anthropic图书和解金引发分配争议

    The Decoder·

    Anthropic图书和解金引发分配争议

    Anthropic因涉嫌下载并使用图书训练Claude而达成的15亿美元和解,如今正引发作者与出版商之间的相互争议索赔。该协议规定,每本受影响图书的赔偿金额约为3000美元,涉及超过482000部作品。

  18. OpenAI推出面向长期运行云端代理的Agents API

    The Decoder·

    OpenAI推出面向长期运行云端代理的Agents API

    OpenAI已发布Agents API公开测试版,开发者可以据此构建能够运行数小时、执行代码并处理文件的云端代理。该服务采用Codex和ChatGPT背后的基础设施,并支持自动上下文管理、并行调用工具以及将任务委派给子代理。

  19. Patagonia has what AI data centers want, including no resistance so far

    The Decoder·

    Patagonia has what AI data centers want, including no resistance so far

    Argentina's Patagonia is emerging as a potential hub for large AI data centers thanks to abundant land, cool climate, and access to diverse energy sources, with several projects already being discussed.

  20. ASML locks in TSMC, Samsung, and Intel while Huawei races to break its grip

    The Decoder·

    ASML locks in TSMC, Samsung, and Intel while Huawei races to break its grip

    ASML has secured commitments from major chipmakers to adopt its High-NA EUV lithography tools while China, led by Huawei, pushes to reduce dependence on ASML.