OpenAI呼吁建立先进人工智能全球标准

关键信息

该提议重点关注三个领域：协调模型评估、结构化事故报告，以及先进人工智能治理。现有内容没有说明具体评估指标、报告机构、执行机制，或不同司法管辖区之间解决分歧的流程。

资讯摘要

OpenAI提出了一条面向下一阶段人工智能发展的全球共同标准路径。其核心观点是，先进人工智能系统应采用协调一致的方法进行评估，而不是由各个组织分别设计彼此孤立的测试。OpenAI还呼吁建立共同的事故报告方式，以便持续记录和分析有害故障及其他重大事件。提议的第三个部分是治理，目标是在人工智能系统能力增强、影响可能扩大的情况下，使监督方式更加协调。

这一思路回应了一个更广泛的问题：如果标准不一致，就很难比较不同系统的安全结果，也难以识别反复出现的风险。不过，目前公布的内容没有提供太多实施细节，例如标准由谁制定、由谁管理，以及参与是自愿还是强制。最终影响将取决于各国政府、开发者、研究人员和其他利益相关方能否就可操作的规则达成共识，并在跨国环境中落实这些规则。

资讯正文

OpenAI勾勒出建立全球共享人工智能标准的路径，呼吁开展协调一致的评估、报告和治理，以提升安全性。

来源与参考

1. 原始链接
2. Building standards for the next phase of AI