欧盟AI法案透明度规则生效

关键信息

提供者必须在用户与AI系统交互时进行提示，除非这一点本来就显而易见，而且还要为合成的音频、图像、视频和文本加入机器可读标记。部署者必须为那些意在以假乱真的AI生成或篡改图像、音频和视频深度伪造内容加注标签，不合规最高可被处以1500万欧元罚款或全球年营业额的3%。

资讯摘要

欧盟已经开始执行《AI法案》下的额外透明度规则，这些新义务于8月2日正式生效。其目标是让公众更容易分辨自己是在与聊天机器人交互，还是正在接触网络上的AI生成或篡改内容。按照这一框架，提供者是开发并销售AI系统的公司，而部署者是使用这些系统的平台和服务，不过有些公司可能同时属于两类。提供者必须让AI系统在用户与AI而非真人交互时明确提示，除非这一点已经显而易见。它们还必须为合成音频、图像、视频和文本加入机器可读标记，以便识别这些内容是人工生成或被修改过的。

部署者则必须为那些以逼真效果呈现的AI生成或篡改图像、音频和视频深度伪造内容加注标签。欧盟委员会表示，这么做是为了帮助公众做出知情判断，调整对内容的信任程度，并避免误导或欺骗。为了降低实施成本，欧盟还提供了一套可供平台采用的披露标签，形式上与TikTok、Instagram和Facebook已有的标签类似。不过，欧盟特别强调，这些示例标签是可选的，而标签义务本身并不是可选的。若公司未能遵守，最高可能面临1500万欧元罚款或全球年营业额3%的处罚，而8月2日之前上线的系统则有直到12月2日的宽限期来完成合规。

资讯正文

欧盟近日出台了额外规则，旨在让人们更容易在网上识别聊天机器人和 AI 深度伪造内容。该联盟里程碑式 AI 法案下的新透明度义务已于 8 月 2 日生效，要求公司披露人们何时是在与 AI 模型互动，以及内容是否由 AI 生成或被其篡改。

透明度规则对提供方（开发并销售 AI 系统的公司）和部署方（使用这些 AI 系统的平台和服务）有所不同，不过像 Meta 和 SpaceXAI 这样的公司同时被归类为这两类。

如果有足够多的公司采纳欧盟的 AI 图标，那么标签在各在线平台上的呈现方式应该会更一致。

提供方必须设计 AI 系统，在用户面对的是 AI 而不是人类时明确通知用户，“除非这显而易见”，并在合成音频、图像、视频和文本上加入机器可读标记，以便将其识别为人工生成或经过修改。同样，部署方也必须为任何 AI 生成或被篡改、且被设计成看起来真实的图像、音频和视频深度伪造内容贴上标签。

欧盟委员会在其透明度指南中表示：“生成式和交互式 AI 系统的快速发展，正让区分 AI 互动和 AI 生成内容与人类创作的真实内容变得越来越困难。”委员会还说：“人们应该知道自己何时是在与 AI 互动，或接触到 AI 生成内容。这将帮助他们做出明智决定，调整对 AI 的信任和依赖程度，并避免错误信息或欺骗。”

欧盟委员会还制定了一套 AI 披露标签，供科技平台按照 AI 法案规则采用，并给出了这些标签适用场景的示例。这些标签与 TikTok、Instagram 和 Facebook 已经引入的类似标签相呼应。欧盟制作这些图标，是为了避免各平台不得不自行设计；而虽然欧盟示例图标的使用是可选的，委员会却明确指出，其标签要求“并非可选”。

未能遵守这些新透明度规则的公司，可能面临最高 1500 万欧元（约合 1720 万美元）或其全球年营业额 3% 的罚款。尽管新的透明度规则对新 AI 系统会立即具有约束力，但在 8 月 2 日之前上线的任何模型和服务都有四个月宽限期，需在 12 月 2 日前完成合规。

来源与参考

1. 原始链接
2. Europe’s AI labeling and transparency rules are now in effect