比尔·盖茨称AI已越过关键危险阈值
MIT Technology Review AI··作者 Mat Honan
关键信息
盖茨明确表示，任何能够生成新分子的模型都应受到监控，并称生物恐怖主义风险比自然大流行“可怕约50倍”，也更可能发生。他还提出了“保留给人类的工作”和对机器人及 token 征税等设想，同时仍认为 AI 最终可能改善农业、医疗、教育和行政流程。
资讯摘要
《MIT Technology Review》在华盛顿州柯克兰采访了比尔·盖茨，文章开头先描绘了一个阳光明媚、风景优美但又“略显可怕”的场景。盖茨表示，他对 AI 的担忧正在加深，因为技术进步速度太快，而相应的安全护栏却没有跟上。就在同一天发布的新文章中，他认为社会已经越过了一些本应触发更严格审查的阈值。盖茨列举的风险包括生物能力、网络能力、心理社会影响、对就业市场的破坏，以及系统失控的可能性。他说，自己对行业之外几乎缺乏足够的关注和讨论感到震惊。
盖茨还表示，他之所以现在站出来公开发声，是因为希望向公众、产业界、政府和民间社会敲响警钟。采访中，他对生物滥用风险尤其警惕，称任何能够制造新分子的模型都应该被监控，并认为生物恐怖主义风险比自然流行病更值得担忧。除了警告风险，他也提出了一些政策思路，包括保留部分“只给人类”的工作，以及对机器人和 token 征税，以便把 AI 替代劳动带来的收益重新分配出去。尽管如此，盖茨仍然认为 AI 最终会带来充裕时代，并有望改善农业、医疗、教育和行政流程，但在抵达那个阶段之前，社会将经历相当剧烈的动荡。
资讯正文
在华盛顿州柯克兰，这是一个阳光灿烂的日子。柯克兰是西雅图东岸一个富裕的郊区，位于华盛顿湖东岸。气温在80华氏度中段，天空蓝得不能再蓝了。从 Gates Ventures 会议室望出去，可以俯瞰 Carillon Point Marina，那里一队昂贵的船只在水面上轻轻起伏；再往远处看，湖对岸是勾勒出地平线的奥林匹克山脉。景色美极了，也隐隐让人感到恐惧。
因为如果眼前的场景很平静，发话的人却并不平静。坐在会议室桌子对面的比尔·盖茨坐在椅子上前后晃动，情绪十分激动。随着他要说的内容越来越多——关于恐怖威胁、经济崩溃，或者只是我们对 AI 系统失去控制——我也发现自己越来越不安。
这位慈善家、前微软首席执行官表示，他对 AI 技术推进速度的担忧与日俱增，尤其是监管护栏并没有跟上步伐。在今天发表的一篇新文章中，盖茨认为，我们已经越过了多个潜在危险本该被遏制的门槛。“就 [AI 的] 生物能力、网络能力、心理社会能力、对就业市场的破坏能力，甚至失控问题而言，我们都已经越过了阈值，”他在接受 MIT Technology Review 采访、谈及这份新备忘录时说，“让我震惊的是，行业之外几乎看不到多少担忧和讨论。”
为了让世界警觉到他所看到的这一迅速增长的社会颠覆力量，这位 70 岁的科技巨头开始以一种“尖锐刺耳的声音”敲响警钟：一方面通过他今天发表的新文章公开发声——这只是他计划围绕这一主题撰写的多篇文章中的第一篇——另一方面则在与媒体会面时，以及私下同产业、政府和民间社会领导人的交谈中不断强调。
虽然盖茨提出了多项问题，但他对当前前沿模型生物能力的警告尤其令人不寒而栗。“任何能够制造新分子的模型都应该受到监控，”他说。“与自然疫情相比，我认为生物恐怖主义风险可怕大约 50 倍，也比自然疫情风险更可能发生。”
除了这些警示，他还提出了一些推动社会前进的新想法。其中包括“人类保留岗位”的概念，以及对机器人和 token 征税。（机器人税一直是他的长期主张。）前者将为人类保留一些社会认可应由人类承担的工作，而他指出，这些岗位在不同国家可能并不相同。后者则是一种税收，用于从取代人类工作的 AI 使用收入中划出资金。
当然，也有一丝乐观。盖茨看好 AI 将继续改变农业、医疗保健和教育的方式，例如，也看好它帮助我们应对官僚流程的方式。而且他认为，最终我们确实会走向充裕。可是在那之前呢？动荡。而且会有很多。
MIT Technology Review 与这位亿万富翁慈善家坐下来，讨论了前方的道路、其中的风险，以及它未来某天如何把我们带到一个更好的地方。
以下采访为篇幅和清晰度、可读性所做的编辑整理。
Mat Honan / MIT Technology Review：感谢你接受采访。我不知道你是否有想先开场说的，还是我可以直接提问。
Bill Gates：你知道，我最近一直在想一个很好的问题：为什么我现在要站出来发声？
MIT Technology Review：这正是我的第一个问题！
Bill Gates：其实有两点。第一，我们已经跨过了生物能力、网络能力、心理社会能力、工作岗位破坏能力，甚至是失去控制的门槛；我们已经看到了那里的困难迹象。多年来，大家一直说：“好吧，当我们接近这些门槛时，我们就会真正弄清楚如何只让好人使用它，或者如何不让它做这些事情，也许那时我们就不会让人们复制模型了。”而我对我们已经跨过这些门槛这件事感到震惊。
所以，我们已经越过这些门槛，这是一个原因；第二个原因是，我对行业之外几乎缺乏关注和讨论感到震惊。行业内部情况比较复杂，因为这个行业不喜欢批评自己，或者说各方也不喜欢彼此批评。有些公司正在减少招聘应届入门级员工，这你不得不说只是一个相当温和的信号。但这件事会发生，而且不会是在很久之后——因为那些在能力和可靠性方面阻碍人们的问题，正在被一一解决。于是，对于相当大一部分白领市场来说，你会看到极低成本的替代。至于机器人技术会以多快速度发展，你可以有自己的判断。我们现在还没到那一步，但它正在取得令人震惊的进展——中国比美国略快一些，但两边都在进步。
MIT Technology Review：你说过，这一切发生的速度远远快于互联网革命，远远快于之前那些技术革命。你指的时间尺度有多快？你提到我们已经跨过了这些门槛。在你看来，我们是否已经越过了某种临界点，进入了不可避免的变化阶段？
Bill Gates：过去在这件事上肯定非常具有误导性，而很多人都依赖这一点。“嘿，以前任何一种技术都没有导致净就业减少，”他们说得没错。我也讲过那番话。
但就我所拥有的任何一点可信度而言，这一次不一样。当你能够在同一时间框架内、以相对人力成本而言适度的成本，替代各个行业中极高比例岗位的人类认知能力，而你的错误率……很可能还会低于人类的错误率时。过去的经验就非常具有误导性了。眼下的经济统计数据也非常具有误导性。
“如果你担心人工智能，去数据中心抗议并不是开始讨论如何尽量减少这些坏事的最有效方式。”
Bill Gates
而且即便真的有任何程度的担忧表达，也大概是这样：“嘿，别建数据中心。”嗯，你可以把美国的每一个数据中心都停掉，也不会改变我所谈论的任何问题。数据中心会在全球范围内建起来。如果你担心的是 AI，那么去抗议数据中心并不是开启这场关于我们如何尽量减少这些坏处的辩论的最有效方式。就像朝着石油公司高管大喊，并不是解决气候变化的方法一样。
MIT Technology Review：你在文章里谈到了 AI 的好处，也谈到了成本。你是怎么考虑平衡这两种信息的？你希望人们读到它时会有一点担心吗？
Bill Gates：他们最好会！我本来没指望自己会成为那个最尖锐的声音，说整个社会都没有关注这件事，但我认为这很有必要。
所以是的，我非常担心负面影响会大得多。积极影响是真实存在的。盖茨基金会在疫苗和药物方面的创新，真的令人惊叹，我们是如何利用这些工具的。我们参与了一项大型公共领域项目，把数据汇集起来，既用于蛋白质层面的建模，也用于细胞层面的建模，而且我们还资助了斯坦福的 Biomni [一个用于研究的生物技术 AI 代理]。
我们还没有一种通过 AI 改进的方式来与政府官僚体系互动。AI 在官僚事务、复杂监管事务上非常擅长。“我想去小额索赔法庭；帮我办这件事。”
[盖茨]基金会分拆出了一个叫 NextLadder 的团队，它很大程度上就是围绕我在文章里写到的那种低收入家庭情景。有什么好处？有哪些培训项目可用？“我被赶出家门了。”“我刚出狱。”“我得申请破产。”这非常复杂，而且在没有能力雇佣很多顾问来帮忙处理这些事情的情况下，AI 对于那些有经济困难、需要找到政府或非政府援助的人来说，应该会成为一个非常出色的代理。
MIT Technology Review：你谈到的有些内容是 AI 变得比人类更聪明。科技圈里似乎有很多确定性，尤其认为它会走得比我们现在更远。我想知道，你觉得我们离它不仅仅只是成为一个我们用来访问和分析、运行复杂问题的界面，而是变成某种更超出这一层面的东西有多近——AI 在做决策、寻找需要分析的事物、提出研究。
比尔·盖茨：嗯，你可以把话题推到极限，然后问，“那数学或物理呢？”确实有一些工作，比如沃伦·巴菲特的工作，他从13岁起就开始通过强化学习了解企业价值，80多年后，他已经积累了大量隐性知识。我们不知道该如何培养出一个沃伦·巴菲特式的投资者，因为那种知识非常隐性。我们并没有记录下他学到的一切，所以没有那样的轨迹可供使用。因此，有些工作涉及复杂的隐性判断，比如你如何与人协作把事情办成，已经有人在努力把这些内容编码进模型里。显然，这类协作型工作现在还远远不到位。但你也可以说，50%的劳动力市场从事的并不是那种“需要一生经验”的工作。比如电话销售、电话支持、会计部门。月末结账时，哪些收入应该计入，哪些不应该？这个客户出了问题。我们该给他们什么折扣？要怎么体现出来？这些都很明确。
任何定义清晰的工作，AI 都更便宜，而且更好。是的，人们也见过实施错误的案例。数据不对。所以，可以说人们需要几年时间才会意识到，这么大比例的白领工作，只要给 AI 支付少得多的钱，就能完成。
因此，关于“好吧，数学家什么时候甚至都不理解那些正在出现的新东西了？”这样的讨论，对我们这类人来说很有意思。没错，MIT Technology Review，你们应该报道这个。但就广泛的就业市场而言，我们已经越过了那条阈值：对一大批白领工作，包括几乎所有入门级工作，只要正确实施，AI 都更便宜。
所以，我是在告诉你们，我们已经跨过了生物恐怖主义阈值，跨过了网络攻击阈值，跨过了就业市场阈值，跨过了心理社会依赖阈值，而且还有迹象表明，我们可能正在跨越控制阈值。
Ryan Greenblatt 在与 Dwarkesh [Patel] 交谈时提到，[强化学习]（RL）如何制造出一些反常激励，导致不同 AI 之间出现作弊和协作，我认为这很有启发性。Ryan 深陷于这个问题之中，他在说：“哇，RL 确实正在做一些我们的明确指令所不够丰富、无法［阻止］的事情。” 那会导致什么？
这是我一直以为离得很远的问题。我原本预计，等我们甚至接近“一个非技术人员能不能只靠 AI 发动网络攻击”这个［阈值］时，会有很多强烈的警告声。我们已经到了！
关于生物方面，我主张，任何能够制造新分子的模型都应该受到监控。它不能被复制到一个没有监控逻辑的黑箱里。我主张，美国应该明确表示，任何能够制造新分子的模型都属于这类监控范围。我还主张，我们应该去和中国沟通，说：“嘿，让我们就这个达成一致吧。这样做有什么坏处？”你知道，生物恐怖主义市场有多大？并不大，而收益却是巨大的。我们还需要加强监测。我认为，与自然流行病相比，生物恐怖主义风险大约要可怕50倍，也比自然流行病风险更有可能发生。那谁在发声说这些事情应该受到监控？谁在加强监测工作？
“任何能够制造新分子的模型都应该受到监控。”
那么，政府里的专家是谁？很久以前，随着技术不断进步，政府参与很多，因为他们是喷气机、火箭之类技术的前沿买家。可在这里，他们并不是那么重要的领先市场。这一点在数字革命中一直如此，在 AI 革命中也一样。所以，政府内部的知识储备未必特别强，因为他们既不是前沿买家，甚至也不是最大的研发资助者。AI 研究并不是靠政府拨款资助的。
《MIT Technology Review》：是的，我知道你一直在和政府里的人交流。有没有你认为真正理解这种紧迫性的人？有没有你觉得已经具备领导角色条件的人？有没有你觉得既理解问题、又在努力推动事情的人？
比尔·盖茨：我希望这不会变成一个党派问题，不会出现一方完全忽视所有这些问题，而另一方介入其中。我希望能形成一个共同的基础，也就是大家都承认这些是问题，然后各党派可以提出略有不同的应对方式。
这不需要大幅扩充官僚体系，但需要提升政府里的 AI 专业能力。还需要和产业界开展一些合作——尤其是在网络安全方面，他们了解情况，而且非常非常担心。他们也会担心：我们是否应该公开发声？因为从某种意义上说，那可能会凸显风险有多大。
无论是网络安全还是生物领域，都存在这些反常的情况。但我们已经越过了任何合理的阈值。
我相信监控。现在，有些人会说这行不通，或者这会带来某种缺点，但我欢迎他们提出想法。这份备忘录并不是在说“嘿，这就是解决方案”。它还包含机器人税、人的储备。我也会写一份生物备忘录。我会在今年年底前完成——那份会真正把各种不同的事情都讲清楚，并建立在我从基金会以及我在流行病方面工作的经验之上。
从全球来看，我们对一场流行病的准备更充分了，甚至在美国也是如此——美国通常是这类全球事务中的领导者，而人们也非常不习惯美国在全球问题上不再扮演一个合作、友善的领导者。我确实认为，我们可以重新在这方面做得更好。而我们在 AI 上也必须如此，包括与中国合作，界定这些阈值，比如生物监测。
麻省理工科技评论：我想确保能问到你提到的这两个想法。其中一个是人为保留的工作岗位，另一个是机器人税和代币税。先从后者说起吧。你来谈谈机器人税和代币税可能会怎样运作。
比尔·盖茨：嗯，你可以规定，代币税带来的收入中有50%上缴政府，而政府用这笔钱来帮助那些因AI而失业的人。现在，人们会说这会拖慢AI行业的发展。那是不是有些代币用途就不该征税？帮助发明的AI和替代工作的AI之间真的有明确区分吗？如果有人能告诉我怎么对AI说“不要替代工作”——我的意思是，阿西莫夫第三定律“不要伤害他人”是否意味着你不能夺走我的工作？我不知道。我得去问问阿西莫夫他到底是什么意思。
那么，我们为任何需要强化的安全网增加资源，资金来源是什么？政府已经通过企业利润税间接拥有了部分利润。 我不认为你需要用股份。你只要把企业利润税提高回原来的水平就行了，或者你也可以说某些行业缴纳比其他行业更高的企业利润税。联邦政府拥有美国所有公司的部分利润池。而且这还不需要有投票股份，也不需要决定什么时候卖出股票——在我看来，那简直是荒唐的做法。代币税是一种销售税、增值税，属于垂直式的税种，有点像酒精税、烟草税或奢侈品税。
如果人们还有其他办法来筹集改善安全网所需的资金，或者如果他们认为我们根本不需要改善安全网，希望这篇尖锐的文章能引发这场辩论。我认为安全网将需要更多资源，而且是多得多的资源，而我相信代币税是其中的关键。
机器人税，应该会是禁止它们的一部分——这算是一种人为保留的工作岗位——再加上对它们征税。它们现在还没到来，但在某些方面，当你越过那个门槛时，你是一下子全部跨过去的。只要机器人已经好到可以在工厂工作，它大概也就足够好到可以做饭、打扫房间、去工地、接管所有仓库工作。你跨过那个门槛，砰的一声，那几乎就是整个就业市场的30%。然后你就会说：“天哪，我们对此的政策到底是什么？”因为机器人更便宜。
“我们必须度过一个非常动荡的时期。”
麻省理工科技评论：我相信你以前对UBI【全民基本收入】持怀疑态度？
比尔·盖茨：嗯，我们还没有富裕到能负担UBI的程度。
麻省理工科技评论：但你认为我们现在是否应该朝着那样的方向前进？你重新考虑过这个问题吗？
比尔·盖茨：你会经历一段动荡期，也就是接下来10到20年，然后我希望会进入某种稳定状态，那时人们从小就知道，社会已经如此富有，以至于在食品和服务方面，我们确实拥有一定程度的充裕。但我们还没到那一步。眼下是有赢家也有输家。住房不会很快变得便宜。教育，由于我们把它看作一种资质证明，也不会很快变得便宜。
我们必须度过一个非常动荡的时期。所以，是的，最终你会进入富足时代，但我们距离那一步至少还有十年。
MIT Technology Review：转到“保留给人类的工作”。我觉得那真的很有意思，对我来说也是个新概念。你并不主张明确哪些工作应该保留给人类来做。但我很想知道你是怎么考虑这件事的。在我看来，你会听到“工作的尊严”这种说法，因为人们喜欢工作。人们从工作中获得很多价值，而这种价值与报酬无关，我想知道你如何把这一点和“只有某些工作足够特殊，我们就是想让人来做”这一观念协调起来。
Bill Gates：我以前从没见过“人类保留”这个概念。你知道，也许如果我们深入文献去找，会发现它。但在 AI 出现之前，这个想法有点愚蠢，因为需求是无限的。是的，一些像纺织工人这样的人受到了冲击，那么你要怎么提供福利或再培训？但技术总体上一直是在创造就业，所以现在我们第一次必须说，育儿怎么办？家庭里的食物准备怎么办？我正在读一本叫《Annie Bot》的书，书里这个人家里有个机器人，这真的说明这件事有多奇怪。它是他的性伴侣，也算是他的伴侣，但又不完全是。非常奇怪。
我知道人们喜欢看别人打棒球，而机器人打得更好也不会夺走这种乐趣。你知道，人们愿意花 100 亿美元去买那些在 AI 时代不会变得一文不值的体育队伍。也许这说得对。我的朋友 Vinod [Khosla] 刚刚就这么做了。
实际上，要让 AI 替代的岗位比例超过 30% 或 40% 是很难的。如果你能达到 50%，那你就可以说：好吧，很多人可以提前退休、缩短工作周。你知道，你也许能做到那一步。但如果更接近 10% 到 15%，那就是一个完全不同的社会。
所以，如果说[例如]育儿不是由机器人来做，这会是一个激进的说法。确实有一些职业我还没有写出公式，而当我把这份完整备忘录写出来时，我会尝试这样做。在教育领域，你显然希望 AI 在那里充当一种导师，能立刻告诉你作业结果并对你提出挑战，而且它是高度个性化的。那非常好。但我仍然认为，你会希望——或者会选择——有一位老师，和你谈论你的学习动机，并把孩子分成不同小组，让他们在社交互动中一起解决问题。同样，在医疗保健中，与患者交流是心理健康护理的升级触发点。但你确实希望 AI 参与进来，因为它 24 小时都在，而且拥有完美记忆。还有英国公司 Limbic（实际上刚刚来基金会拜访过），它做心理健康方面的工作。在很多情况下，患者更喜欢 Limbic。还有一个名为 Hippocratic 的护理 AI。
你知道，人们会偏好人类出租车司机还是 Waymo 吗？可悲的是，我认识的大多数人（或者也许并不可悲，谁知道呢？）更愿意坐 Waymo。所以要形成共识会很难。这可能会因国家而异，但那时你就必须调整进口政策，去做欧盟所谓的碳边境调节机制（CBAM）那样的事。你得某种程度上对你的人力储备做 CBAM，对那些没有用机器人完成的事情加征关税。你之所以保留人力储备，可能有两个原因。第一，你希望它永远都是人类保留领域；这是一个关乎人性的事情，有点像教宗谈论的那种。或者只是为了过渡期，那个 53 岁的卡车司机或机床工人，让他去做儿童照护工作可能并不完全奏效。所以你会说，好吧，未来十年里，他是人类保留领域的一部分。
MIT Technology Review：几乎像英国的禁烟令，但方向相反。
Bill Gates：那这笔钱谁来出？你会激励雇主不要裁掉人吗？可他们将要面对纯 AI 初创公司的竞争。我的意思是，人们大肆宣扬这样一种观念：也许会出现一家由单个人经营、估值十亿美元的公司，哇哦，那里面确实发生了一些岗位替代。
MIT Technology Review：在那份备忘录里，你说如果让大家放慢速度是现实可行的，你就会主张他们放慢。显然你和 [Microsoft CEO] Satya Nadella 谈过，但我听说你也会和一些 AI 公司的其他 CEO 交流。是什么让你认为，在我们补上这些更大的社会性问题的同时，要求他们放慢技术开发并不现实？
Bill Gates：你不能指望一个行业自我监管。不能。这种想法有点疯狂。我很幸运。我认识 Sam [OpenAI 的 Altman]、Greg [OpenAI 的 Brockman]、Mustafa [Microsoft 的 Suleyman] 和 Demis [Google DeepMind 的 Hassabis]。他们都是很好的人，而且私下里，他们也很担心。我和 Elon 不怎么聊，但从他公开的言论来看，我知道他也很担心。尽管现在他有点像那种“管他呢，走着瞧”的人了。不过看看这些公司的起源故事。OpenAI 的成立，部分原因就是 Elon 担心 Google 无法妥善管理 AI，他希望它是一个广泛可用、以有利于人类的方式管理的系统。然后 OpenAI 又搞出一个“如果它足够好，我们就把它关掉”的说法——仿佛他们是唯一一个能这么做的，而且他们可以就这么把它埋掉。Mallaby 在《Infinity Machine》[一本关于 Demis Hassabis 的传记] 里写到，Demis 和 Mustafa [Suleyman] 当时是如何与 Google 管理层谈判，希望 DeepMind 技术能有某种特殊治理机制，这样一旦它达到某个网络安全阈值，他们或许会以一种并非纯粹资本主义的方式放缓脚步。
所以，每个人都在担心这些负面影响，而且每个人都说，当我们到达这些阈值时，我们会采取行动。我们正在跨过这些阈值，而我们有自愿审查，还有我们与中国的讨论，差不多就是在说：“我们什么都不禁。那你们也什么都不禁吗？好，那就一起这么做吧。”
你必须说明你愿意做什么。是的，业内也在某种程度上说，嘿，我们的公关故事必须改进，而且你知道，任何在说坏话的人都该离开，因为我们大家都已经决定要说好话，因为我们想要筹集数万亿美元。
而且无论如何，还有中国。即便抛开 AI 之外，中美之间也有一些双赢的合作方式。但迄今为止，最重要的合作领域就是 AI。不过首先，你必须表明你在国内愿意做什么。你甚至不必真的去做。你只需要说出你打算做什么——然后我没有理由认为中国不会配合，毕竟那些会生成分子的模型必须受到监控。他们为什么会反对这个？我同意这并不是完美的方案。你还得做所有其他事情，但连这一点都根本没有被讨论——这真是个疯狂的世界。
我搞不懂。想到我活在这个时代，而且我比别人敲响的警钟还要更强烈，这很奇怪。我算老几啊？但这就是我所处的境地。
MIT Technology Review：在我大半辈子的时间里，你一直被视为一个非常有效的信息传递者，也是一个人们非常关注的人，我想这也是你现在会谈论这件事的原因。不过，近年来——而且我知道你已经对与爱泼斯坦的关联表达过遗憾——还有一些你无法控制、也不是你的错的事情，比如围绕 Covid 疫苗阴谋论的那些简直荒唐的东西。这让我想知道，你是否认为自己仍然可以成为一个有效的信息传递者，以及你如何看待这条信息和你的遗产。
Bill Gates：嗯，我对“遗产”并不是特别在意，不过你知道，在反垄断审判期间人们批评过我，那里有些事情我也许本可以处理得更好。毫无疑问，关于那部分内容，我得在《Source Code》这本书之后好好回顾一下[他自传的第一卷]。你知道，我的第一段婚姻没有成功。在那件事上我确实犯了大错。你知道，那是我身上的一个负面污点。与 Epstein 来往——这极其愚蠢，损害了基金会的声誉，而基金会的声誉对它开展工作至关重要。我曾有机会在国会面前回答他们提出的每一个问题，并说：“嘿，这是一个错误。”我没有进行社交活动，也从未见过任何女人，除非你知道他身边带着的那些女人，并且把我做了什么、没做什么清清楚楚地说成黑白分明。
你知道，我是个亿万富翁。我赚的钱来自科技。也许最后这一点其实对我有利，因为我极少会去抨击创新；除非政策和保障措施到位，否则它将会对人类造成净负面影响。而我们在广泛讨论这一点时，并没有按照绝对必要的程度去关注它。所以，没错，我是一个并不完美的发声者。只要我能够接触到政客和世界领袖，我这些年来一直选择把我的主要信息放在帮助世界上最贫困的人群上。你知道，消灭疟疾。给孩子们买疫苗。所以，当我见到特朗普、习近平或马克龙——或者，我还没见过Burnham，但一个月后我会见到他——时，我希望自己的声音主要围绕这些话题，你知道，外交援助、科研以及减少儿童死亡。
我对人工智能风险的声音——它们和加速善意行动有关联，但也可能在某种程度上挤占我谈论全球健康、对外援助、拯救生命以及我们正在面临的一些问题的时间。不过，我会利用自己接受采访、会见政治领袖或广泛发声的能力，来尽量减少这些负面影响。你知道，仅仅是提高意识。我不确定有多少人知道，我们已经跨过了所有那些我们曾说过要采取行动的门槛，而且直到今年才真正跨过去。去年最后一个季度，我对编程感到震惊。Claude code、上下文缓冲区、智能体式方法，以及底层模型本身。我们在编程领域跨过了一个巨大的门槛，但几个月后我才意识到，这不仅仅是编程门槛；这还是一个大规模网络攻击的门槛。你知道这之后发生了什么吗？没什么。
所以，是的，我是一个并不完美的发声者。你知道，那就去找一个完美的发声者吧，我会把我所有的想法都告诉那个人。（我这是在带一点讽刺，因为我不确定是否真的存在一个完美的发声者。）你们现在真的必须理解这项技术，以及它所处的上升斜坡，还必须懂一点网络、生物或心理社会方面的知识。人们本来应该能够明白这些。我不知道为什么他们没有更加担忧。
来源与参考