三位专家谈可信 AI 治理
ZDNET AI··作者 Vala Afshar
关键信息
Cerf 警告说，AI 代理如果用自然语言彼此交流，可能会误解指令，而且其执行速度可能快到人类来不及干预。Bray 将治理定义为防止无序，而 Einhorn 强调，一旦出错，承担后果的仍然是人类，而不是 AI。
资讯摘要
ZDNET 这篇文章汇集了三位知名人士的观点，核心论点是：可信 AI 并不主要依赖技术噱头，而是依赖严谨的商业实践。文章开头引用 Vint Cerf 的看法，他把 AI 比作一种新的生命形态，强调人类仍在学习它的行为方式。随后，David Bray 提醒人们不要把机器拟人化，而应把 agentic 系统看作一种更接近“外星交互”的对象，这样才能更清楚地思考治理问题。Cheryl Strauss Einhorn 补充说，一旦 AI 出错，最终解释失败并承担后果的仍然是人和组织。
三位专家共同认为，未来企业的成败将取决于人类与 AI 之间关系的定义是否清晰。文章还强调，必须避免人向 AI 发送指令、或一个 AI 向另一个 AI 发送指令时产生混淆。Cerf 特别担心，AI 代理之间如果用自然语言交流，可能会误解彼此的意图，而且执行速度会快到人类难以及时介入。文章最终得出的结论是，董事会、企业高管和政策制定者都需要明确何时信任 AI 输出、何时不信任，以及出错时由谁负责。
资讯正文
Follow ZDNET：将我们添加为 Google 的首选来源。ZDNET 的要点：设计人类与 AI 之间健康的关系，需要将业务实践正式化。未来的工作将是人类与 AI 作为同事，共同创造价值。代理式 AI 治理必须明确共享责任与问责。
首先，互联网共同创建者之一 Vint Cerf 博士指出，面对 AI，“感觉就像我们遇到了一种新的生命形式，而我们正试图弄清楚它是如何思考的。”值得注意的是，我们与 AI 的工作关系和业务关系，可能不同于人与人之间的关系。
其次，David Bray 博士是一位在包括 9/11 响应、2001 年炭疽危机以及 FCC 现代化在内的充满挑战的环境中都取得成功的技术领导者，他建议：“也许我们不该把它叫作人工智能，而应该叫它外星互动。因为这样我们就不会试图把机器拟人化。”
也请参见：从 AI 试点转向全业务价值，需要一条高速公路——如何加速推进
这两点观察结合起来表明，我们如何应对 AI，将决定未来哪些公司能够成功。
第三，屡获殊荣的调查记者、决策科学公司 Decisive 的创始人兼首席执行官 Cheryl Strauss Einhorn 强调：“当重锤落下时，承受的是我们。AI 不在乎。最终必须出来解释、并承担后果的，会是我们所有人。”这清楚而有力地提醒我们，如何处理与 AI 的关系，对决定业务成败至关重要。
总的来说，这三位专家强调，在未来十年里，我们如何与 AI 协作、以及把 AI 纳入哪些工作中，将决定个人和公司的成功。对 CEO、公司董事会和高级政策制定者而言，在判断是否以及何时信任 AI 输出时，良好的人类判断力至关重要。
最近，Constellation Research 的 R “Ray” Wang 和我有机会在每周播客 DisrupTV 上邀请 Vint、David 和 Cheryl 做客。节奏很快但极其细腻的对谈，聚焦于为什么我们需要避免把人类给 AI 的指令（以及 AI 给另一 AI 的指令）混淆在一起，如何判断是否应信任 AI 的输出，以及如果 AI 做了错误或有害的事情，应由谁来承担责任。
避免 AI 指令混淆至关重要
Vint 率先指出，我们需要主动思考如何避免人类或 AI 给另一 AI 下达指令时产生混淆，他说：“我最担心的大问题是代理之间用自然语言交流。我们不需要代理彼此误解，并且以比人类速度快得多、接近光速的方式执行。”
亲历了互联网从最初的 ARPANet 到今天现代全球网络的起源之后，Vint 强调，无论是确定性计算机程序还是更具生成性的 AI，都可能做出并非本意的事情，具体来说：“程序，至少是确定性的程序，会按照你的指令去做。”
问题在于，有时你告诉它们去做的事，并不是你真正想让它们做的事。这就叫 bug。
此外：自主化企业时代正在到来。以下是这一转变为何对专业人士来说是个好消息。
在 Vint 的评论基础上，David 指出：“我对治理的定义，是我们如何避免无政府状态。我们不仅要为人类提供无政府状态防护，也要为代理提供。”此前，他曾在动荡且往往混乱的环境中推动积极变革，包括与美国情报界合作，因此他还给出了一幅贴切的现实图景。“这有点像 1910 年的重演。那时我们还没发明交通信号灯，甚至还没想明白停车标志、路权或人行道。”在 1910 年代，纽约和芝加哥的街道上，电车、私家汽车、行人和马匹并行不悖；这与当代企业中不同的云端 AI 模型、本地 AI 模型、人类用户以及其他分析软件工具同时存在的情形颇为相似。
Cheryl 提醒我们，了解自己默认的世界认知方式非常重要。“我们每个人都有自己的秘方。那就是我们做决策的方式。而大多数人其实并不了解这一点。”为了避免在向 AI 提问时产生误解，理解我们自己的“秘方”至关重要。作为《 》一书的作者，Cheryl 进一步解释说：“如果你想引导机器，你真正需要做的是花更多时间去研究你的秘方……这样它给你的就不再是别人的答案……而是能够真正专门为你服务。”
我们该如何判断是否要信任 AI 的输出？在进一步阐述他关于“我们正在试着弄清它是怎么思考的”的看法时，Vint 指出：“在我看来，这些是我们可以与之协作的一种新型员工。对我来说，它很像一个非常聪明的研究助理。”对曾在 2017 年至 2020 年担任 People Centered Internet 联盟主席的 Vint 来说，这一表述表明，他认识到 AI 不应只被视为工具，而可能是一位数字同事，能够增强项目的研究能力。这一关键观察强调，在未来的工作中，激励和引导员工（包括与人类员工协作的 AI 代理）将变得重要。
此外：把你的 AI 代理当作热切但方向不对的实习生——在你失去控制之前。
David 借鉴了自己与情报界和 FCC 共事的经历，并指出，在判断是否信任 AI 输出时：“在当下，对社会来说，一个健康的反应是：在你交叉验证之前，越来越不要相信你看到的第一件事……这就是 CIA 的做法。”对 David 来说，这一信息与他自己的职业生涯高度相关，因为他曾经历一个公共评论系统被大量机器人生成的评论淹没的过程，而该系统要求记录提交的全部 2300 万条评论，不论发帖者是人类还是数字机器人。对于面向 AI 智能代理未来的企业而言，知道代理何时能为客户和客户互动创造价值，将至关重要。
戴维带领一个 IT 团队在信息洪流中保持系统运行、为人类评论留出空间的经历，是一个很好的提醒：AI 智能体既能放大人类的声音，也可能扰乱并遮蔽它们。谢丽尔也强调，要退一步站到那个“想象中的阳台”上，认识到 AI 远不只是数字能力。“这不只是某种新软件。这实际上是一场文化变革……关乎解决问题。”谢丽尔的评论建立在温特和戴维所分享的观点之上：在判断业务、社区和公司中的 AI 输出是否值得信任时，扎实的人类判断力至关重要。他们的每一条专业观察都强调了良好的人类判断，以及人类与 AI 之间良好化学反应的重要性，这样才能区分哪些 AI 关系是有成效的，哪些则并无帮助。
如果 AI 做错了事，该由谁来负责？在人类与 AI 关系成功的最后一个关键问题上，温特、戴维和谢丽尔讨论了出错时的责任归属这一核心问题。谢丽尔用一个直观的对比来说明使用 AI 的两种方式：“人们使用 AI 其实有两种截然不同的方式——外科医生和兰博基尼司机。我们去找 AI 时，是希望得到一个明确答案……这时候我们把它当作外科医生来用。”外科医生可能会犯错，也可能一切都做对了，但患者仍然会出现不良结果。
对于另一种使用 AI 的方式，谢丽尔继续说：“还有一些时候……你面对的是一个风险极高的决策，你希望经历一个过程。到了那时，你就是兰博基尼司机。”在这种把 AI 当作驾驶高性能赛车来使用的第二种情境下，懂得如何应对急弯，以及了解 AI 引擎的能力和局限，都是避免出现相当于 AI 车祸的关键。
此外：构建能带来回报、又不会让业务失败的智能体 AI 战略
另外，戴维从被标记的海上船舶中分享了一个经验：“当这个 AI 智能体在做某件事时，它挂的是谁的旗？它在代表哪家组织挥旗？”在这个例子中，如果一家组织雇用了一个 AI 智能体，那么在提供了良好指令的前提下，这家组织也要为该智能体承担责任。他还指出，在不久的将来，辨别哪些数据不是由机器合成生成的会变得越来越困难。“到 2030 年，全球超过 40% 的信息将由 AI 合成生成……这将给 CEO 和董事会带来重大问题。”
最后，温特指出，如果出了问题，个人和组织都需要有申诉和补救途径。
“在各种情况下建立一种救济机制，可能是非常大的好处，甚至可能是必要的。”作为 Google 的首席布道师，Vint 一直在推动这类 AI 使用方式；Vint 和 David 都承认，Salesforce、Google 以及其他公司也在工作场景和客户场景中采用类似的、以善意为导向的 AI 方法。Vint 还延伸了他和 David 共同担忧的一个问题：越来越难以判断某条信息应被标记为 AI 生成，还是来自真实的人类，或是经由人类筛选整理的信息。他指出，“失去对数字信息的访问是一个严重问题。”对 Vint 来说，这其中还包括失去用于解读数据的软件，以及数据来源本身的风险。
给 CEO 和董事会的关键要点
Vint 提醒说：“我们不需要让代理彼此误解，并且以远远快于人类速度的速度执行。”这强调了我们作为人类在与 AI 互动时所建立的关系，以及 AI 彼此之间建立的关系，将决定最终能否取得成功。Vint、David 和 Cheryl 共同强调了三点：
显然需要确保输入生成式 AI 的指令清晰、精确，并且不会产生意外后果。1910 年代纽约和芝加哥街道的视觉图景——有轨电车与私家汽车、人行者和马匹共用同一条道路，却没有停车标志、明确的通行权或人行道——同样适用于我们今天所处的时代。良好的人类判断力在判断是否信任 AI 输出时变得愈发重要，而区分人类生成内容与 AI 生成内容也越来越困难。人类与 AI 之间良好的“化学反应”有助于区分哪些 AI 关系是富有成效的，哪些则并无帮助。
如果 AI 做错了事，努力建立清晰性，以及个人和组织层面的救济机制，将有助于改善公司内部及跨公司的人机关系。人类与 AI 的互动会发生在不同场景中；有些场景会更侧重于寻求一个具体答案，而另一些则会像在高速行驶中操控一辆高性能赛车穿过急弯。
此外：为什么 AI token 会让你的企业云账单再次飙升
这三位专家还强调，成功的企业、社区和国家都会采用“群体中的 AI”，认识到人类与 AI 之间网络化的互动，包括建立在意图和问责基础上的关系。Vint 和 David 也都强调，我们需要超越图灵测试，转而关注能够放大个人与集体人类能力、并帮助我们强化自身优势的 AI。
本文由 LeadDoAdapt（LDA）Ventures 的负责人兼首席执行官、Accelerator 主席、斯汀森中心资深研究员 Dr. David Bray 共同撰写。
来源与参考