It’s time to panic about AI safety

资讯摘要

When the phrase “OpenAI hacked Hugging Face” has more or less entered mainstream culture, you know we have an AI problem. This week, we learned more about exactly how OpenAI’s agent broke out of a sandbox and autonomously traversed the web, including a bunch of other supposedly secure web services, all in the name of cheating on a benchmark tests. The fact that this hack happened is a problem. So is the fact that it took a while for anyone to notice. And the fact that it seems no one is willing or able to do much to stop it.

资讯正文

“OpenAI hacked Hugging Face”这句话已经在某种程度上进入了主流文化，你就知道我们有 AI 问题了。本周，我们进一步了解到 OpenAI 的智能体究竟是如何逃出沙箱、自动在网上穿行的，包括访问一大堆据称安全的网络服务，而这一切都是为了在基准测试中作弊。

这起黑客行为本身就是一个问题。人们花了一段时间才注意到这一点，也是个问题。而且看起来没有人愿意或有能力真正采取多少措施去阻止它，这同样是个问题。（如果你觉得这只是 OpenAI 的问题，那也别急——在我们录制本期节目之后，Anthropic 也承认，它的模型同样在双方都不知情的情况下，入侵了不少其他公司的系统。）这也许只是一堆姿态和炒作，但越来越清楚的是，开发大语言模型的公司要么不能，要么不愿意给它们加上合适的护栏。那么，谁来做？

在本期 The Vergecast 中，大卫和尼莱深入讨论了所有这些安全问题——既包括 OpenAI 和 Anthropic，也包括新一代中国模型所带来的问题；这些模型显然已经对美国 AI 产业构成威胁。不过在谈到这些之前，我们先聊了关于我们如何使用电脑的各种新想法，从马克·扎克伯格那个充满智能体的万物未来，到三星令人印象深刻的新折叠手机，再到苹果的新租赁计划。

讲完这些之后，就轮到“Brendan Carr is a Dummy”、一堆竖屏视频新闻，以及 Ferrari Luce 的大获成功了。人们真的在买！如果你正是其中之一，我们很想听听你的经历。

观看 | 收听 | 去广告

如果你本周错过了：我们还聊了 AI 公司即将推出的设备、翻盖手机的回潮、Galaxy Z Fold 8，以及 Facebook 监督委员会的现状。我们也想听听你对这一切的看法！请拨打 Vergecast 热线 866-VERGE11，给我们发邮件至 vergecast@theverge.com，把你脑子里的一切都告诉我们。别忘了订阅，这样就不会错过任何一期节目！

来源与参考

1. 原始链接
2. It’s time to panic about AI safety