特朗普与科技高管签署自愿性人工智能安全协议。
The Decoder··作者 Manuel Uth
关键信息
独立审计机构将核查模型是否按照预期运行，企业董事会则负责审查审计结果，以及用于防止系统实施未经授权入侵的内部控制。协议尚未明确规定统一的审计标准、公开披露要求、违规处罚或签署方违背承诺后的处理方式。
资讯摘要
美国总统唐纳德·特朗普在白宫会见多名科技行业高管，并签署了一项规范先进人工智能系统开发的自愿性准则。据报道，签署方包括 Meta 首席执行官马克·扎克伯格、OpenAI 总裁格雷格·布罗克曼、Nvidia 首席执行官黄仁勋、埃隆·马斯克以及其他主要人工智能企业的高管。参与企业承诺开展内部风险审查、接受独立外部审计，并由各自董事会监督审计报告。相关控制措施的部分目标，是降低自主人工智能智能体访问受保护系统或发动网络攻击的风险。
特朗普称这项协议具有道德约束力，同时强调安全监督不应拖慢美国人工智能产业的发展。扎克伯格则表示，该框架只是一个起点，而不是完整的最终解决方案。由于协议不具备法律效力，而且执法方式、信息披露和审计标准仍不明确，批评者认为企业即使不履行承诺，也可能不会面临正式处罚。
资讯正文
科技公司高管与特朗普总统在白宫签署了一份人工智能行为准则。据 Politico 报道，该文件仅具有“道德约束力”，不具备任何法律效力。如果有人违反准则，将会有什么后果，目前仍是一个悬而未决的问题。
该准则要求由独立的第三方审计机构核实 AI 模型是否“按预期运行”。另一个独立委员会将监督内部安全检查，以防止 AI 模型入侵系统。据 Reuters 报道，签署者包括 Meta CEO Mark Zuckerberg、OpenAI 的 Greg Brockman、Nvidia 的 Jensen Huang，以及 Elon Musk。Zuckerberg 表示，这份准则只是一个起点，而非最终解决方案。
此举出台之际，人们日益担忧不受控制的 AI 智能体访问政府网站或发动网络攻击。特朗普还提议成立一个由十名成员组成的监督委员会，但他反复强调，不希望因此减缓 AI 的发展。批评人士称，没有实际立法支持的行为准则毫无约束力，而且此前已经尝试过类似的自愿承诺。特朗普还通过一项行政命令，正式将 AI 更名为“超级智能”（Super Intelligence）。
来源与参考