欧盟AI法案让日常AI使用更可见
WIRED AI··作者 Isabella Ward
关键信息
广告或企业社交媒体帖子中的深度伪造内容必须标注为AI生成，AI聊天机器人或投诉热线也必须明确说明其基于AI。该法还覆盖排期、通信和合同谈判等商业用途，违规最高可罚1500万欧元或全球年营业额的3%，以较高者为准。
资讯摘要
欧盟已经开始执行其《人工智能法案》下的新透明度要求，从周日开始，欧盟居民在与AI系统互动，或观看由AI生成、修改的内容时，必须被明确告知。该法律旨在减少欺骗和操纵，同时帮助消费者做出更明智的选择，也是欧盟推动“可信AI”的一部分。实际上，这会让AI在日常服务中变得更加显眼，尤其是在营销领域。使用深度伪造的广告和企业社交媒体帖子必须贴上“AI生成”的标签。处理投诉或其他支持事项的聊天机器人和热线也必须清楚说明自己是基于AI的。
使用机器学习监测来电者情绪、识别沮丧情绪的呼叫中心，则需要在通话开始时进行披露。该要求还延伸到企业内部和商业用途，包括安排预约、处理往来通信以及谈判合同。未合规的公司可能面临最高1500万欧元或全球年营业额3%的罚款，以较高者为准。模型开发者同样受到监管，并将由欧盟委员会新设立的AI办公室监督，这不仅包括OpenAI、Anthropic和Google DeepMind等基础模型公司，也包括像Spotify这类使用AI推荐、Adobe这类在Photoshop中提供AI编辑功能的企业。受访专家警告，这项法律可能带来信息过载，而且由于欧盟27个成员国的执法准备进度不一，短期内的执行未必会立即统一。
资讯正文
从周日起，欧盟公民在与 AI 系统互动，或查看由该技术生成或篡改的内容时，必须被告知。这些新的透明度规定是欧盟《人工智能法案》的一部分，该法案将于 8 月 2 日生效。该法案旨在减少欺骗和操纵，帮助人们做出知情选择，同时也服务于在欧洲推动值得信赖的 AI 这一更广泛目标。
Stibbe 的技术律师 Frederiek Fernhout 告诉 WIRED：“如果提供方真的遵守了透明度义务，人们就会非常清楚地看到 AI 的使用程度。” “尤其是在营销领域。”
使用深度伪造的广告或企业社交媒体帖子将被贴上标签，说明它们是 AI 生成的。处理投诉和其他事项的聊天机器人和热线电话必须清楚表明它们基于 AI。使用机器学习监测来电者情绪并识别沮丧程度的呼叫中心，也需要在通话开始时声明这一点。
即便在企业内部，凡是使用该技术进行任何商业用途的行为，包括安排预约、处理往来函件或谈判合同，都必须予以声明。如果公司不遵守，将面临最高 1500 万欧元（1700 万美元）或全球年营业额 3% 的罚款，以较高者为准。
模型开发者也将受到这项新法律的约束，并将接受欧洲委员会新近设立的 AI 办公室的监管。这不仅包括 OpenAI、Anthropic 和 Google DeepMind 这些显而易见的公司。Stibbe 的技术与数据律师 Thibau Duquin 提到了 Spotify 这类公司，它使用由 AI 驱动的推荐功能；还包括 Adobe，因为其 Photoshop 中的 AI 编辑功能。
Duquin 说：“当你开始仔细看时，会发现它无处不在，而从现在起，所有这些内容都必须贴上标签。”
批评者表示，这项新法律的覆盖面之广可能导致信息过载。计算机与通信工业协会（Computer & Communications Industry Association）的 AI 政策负责人 Boniface de Champris 在 12 月警告说：“过度标注会导致‘横幅疲劳’，不断弹出的通知会让人麻木。如果我们必须给一切都贴标签，从简单的拼写检查邮件到带滤镜的照片，AI 内容标注就会失去全部意义。”
这项新立法让人联想到欧盟的隐私法《通用数据保护条例》（GDPR），后者于 2018 年生效。该法规赋予消费者新的权利，让他们了解并控制企业如何使用其个人信息，从而改变了人们使用网络的方式。它带来了无处不在的 cookie 同意弹窗，让许多网络用户产生了“cookie 疲劳”，也迫使企业争相合规。
Fernhout 说，采用和执行这类技术性法规所面临的挑战同样引人共鸣。“不过，很多术语仍不明确，需要监管部门给出具体指导，我认为这里也会发生同样的情况，”她说。“而且它也非常技术化，所以这些要求还需要被嵌入底层系统中，这就使事情更加复杂。”
欧盟已经允许有一个过渡期，直到12月，要求AI模型提供商以机器可读格式标注合成音频、图像、视频或文本，以便检测这些内容是否由AI生成，这也明确承认了实施这一要求在技术上的挑战。由于欧洲人工智能办公室出具关键合规指南所花的时间比预期更长，该法案中的其他合规截止日期也已被推迟。
该集团的27个成员国在建立各自监管框架方面也处于不同阶段，这意味着执法“可能不会像我们想象的那样在第一天就立即或统一展开”，诺顿罗氏富布赖特（Norton Rose Fulbright）数据与AI监管律师罗斯·南斯（Rosie Nance）告诉《连线》（WIRED），并警告说，“我们不一定会立刻看到一致的执法。”
尽管如此，这项监管的广泛覆盖范围最终会成为企业的一个“gamechanger”，Duquin说。“他们会愿意给它贴标签吗，还是会回到使用非AI系统？他们会回到手工处理吗，还是愿意承担透明披露自己使用了多少AI的风险，并继续在一切事务中使用AI，同时对此作出披露？”
来源与参考
收录于 2026-08-03