国际标准应对AI图像欺诈

关键信息

Touradj Ebrahimi 表示，JPEG Trust 的目标是通过元数据、上下文和工具帮助用户验证内容，而不是指望欺诈者主动给自己的 AI 输出做标记。文章还援引 Deloitte 的估计称，生成式 AI 可能使美国的欺诈损失到 2027 年达到 400 亿美元，高于 2023 年的 123 亿美元。

资讯摘要

ZDNET 指出，随着 AI 生成图像大量进入手机、电脑、社交媒体和专业工作流，数字图像的可信度正在成为一个严重问题。文章认为，现在越来越难判断一张图片、一段视频或其他内容究竟是真实拍摄还是合成生成，而这种不确定性会影响新闻报道、社交媒体，甚至刑事案件中的照片证据。为了解决这一缺口，国际标准组织正在推动 JPEG Trust 体系下的图像认证工具。该计划是在日内瓦举行、由联合国支持的 AI for Good 大会上公布的。JPEG Trust 最初是在去年提出，作为一种把信任指示信息以元数据形式嵌入 JPEG 文件的框架。

此次新增的工作包括第 2 部分，用于定义信任配置片段和报告模板，适用于广播、数码相机和 AI 内容生成服务等特定工作流。第 3 部分则加入媒体资产水印。负责该项目的 Touradj Ebrahimi 与 IEC、ISO、ITU 一起推进这一工作，他强调目标不是让 AI 内容自己标注自己，因为作恶者不会自愿遵守标记规则。相反，JPEG Trust 是为了把验证手段交到最终用户手中，让他们根据上下文和可用元数据自行判断是否信任内容。文章将这项倡议描述为恢复数字信任的第一步，而不是完整解决方案。

资讯正文

人工智能生成的图像明年将造成400亿美元损失——这些国际标准能否提供帮助？

人工智能还是真实照片？如今，图像正面临可信度危机。EIC和ISO提出了帮助识别AI图像的标准。

JPEG Trust代表了图像认证的第一步。

国际标准化机构正在加大努力，试图为终端用户和企业提供所需工具，以区分真实图像、视频和其他内容与深度伪造和AI生成的“垃圾内容”。近日，在联合国主持下于日内瓦举行的“AI for Good”大会上，相关新标准正式公布。

随着图像可信度危机的出现，而且这一问题还在持续恶化，人们已经越来越难以分辨真实照片与AI生成的伪造图像。这不仅影响社会，也影响企业，使人们对新闻报道、社交媒体帖子，甚至犯罪现场摄影证据中使用的图像真实性产生怀疑。其经济代价也十分巨大：根据德勤金融服务中心的估算，到2027年，美国因生成式AI而导致的欺诈损失可能达到400亿美元，高于2023年的123亿美元。

新标准能做什么，不能做什么

随着如今大量图像出现在我们的手机和个人电脑上，要判断照片、视频或其他内容是真实的还是AI生成的，变得极其困难，甚至几乎不可能。瑞士联邦理工学院教授Touradj Ebrahimi表示：“现在你不知道某样东西到底是不是真的伪造的。”Ebrahimi正带头应对AI欺诈和深度伪造问题，并与多个领先的国际标准机构——国际电工委员会（IEC）、国际标准化组织（ISO）以及国际电信联盟（ITU）——合作，制定并推广通用标准，帮助用户和企业区分错误的AI生成材料与真实内容。“你需要查看元数据和信息，才能发现它，并把它放到正确的上下文中。”

为此，IEC和ISO在其JPEG Trust标准中新增了两项内容，以帮助验证图像和数据的真实性。去年公布的首个JPEG Trust标准，旨在为将元数据直接嵌入JPEG文件提供框架，形式是信任指示器。

目前正在推进的JPEG Trust两项新增内容：JPEG Trust Part 2引入了信任配置文件片段和报告模板的目录。

根据这些标准机构的说法，这些片段“既可以原样使用，也可以作为起点，为特定工作流程、用例和应用建立配置文件，例如广播、数码相机、由 AI 驱动的内容生成服务等。”JPEG Trust 第 3 部分引入了媒体资产水印技术。Ebrahimi 表示，JPEG Trust 标准的目标是把验证工具交到最终用户手中，并不是要在内容创建的前端对图像或数据进行验证或标注。他说：“骗子不会把自己的内容标注为 AI。”“如果有人想违法，他们不会一边违法，一边还遵守另一条要求内容必须被标注的法律。”

据此，JPEG Trust“并不是一个告诉你某段视频和图像该不该信任的标准”，他解释说。“它提供的是手段，让你可以根据你的内容和你的配置文件来决定，如果你愿意的话，是否信任它。”

上下文也是另一个需要权衡的因素，而且这同样取决于用户。“信任非常依赖具体情境，”他说。“有些人可能因为自己的配置文件、因为自己的上下文而信任某些东西。即便在同样的上下文里，他们也可能在另一个情境下改为信任别的内容。”

分散的努力

到目前为止，识别和打击深度伪造以及 AI 骗局的努力一直较为分散：一些公司在各自生态系统内推广自己的方案，另一些则联合起来制定事实上的行业标准，Ebrahimi 说。“所以一个大问题是，哪一种标准会成为主导？”IEC 和 ISO 认识到，需要有被广泛接受的行业标准。

多媒体防欺诈的努力真正开始于 2018 年，当时 IEC 和 ISO 下属的 JPEG 委员会首次处理了人们对不真实内容日益增长的担忧。“他们认识到，JPEG 文件被用来传播虚假图像，这是一个缺陷，”Ebrahimi 说。

如今，随着 AI 生成图像泛滥，难点在于将标准扩展到帮助用户和公司验证他们收到的图像的真实性。除了 JPEG Trust 之外，目前正在制定中的其他多媒体标准还包括以下内容，这些标准是 EIC 与 ISO 的“AI 和多媒体真实性与标准”倡议的一部分：

创作者档案：为记录数字内容的来源提供一个框架，包括创建和维护档案的指南，用于保存有关内容创作者及其创作过程的详细信息。

词汇：用于表达 AI 内容偏好的术语表：提议建立一套标准化词汇，涵盖涉及机器可读退出机制的使用场景，这些场景与文本和数据挖掘以及 AI 训练有关。

H.MMAUTH：多媒体内容认证框架：基于数据流的数字签名，这项拟议标准使用户能够通过受信任的第三方，确认内容由其创作者提供的真实性。

来源与参考

1. 原始链接
2. AI image fraud will cost $40 billion next year - can these international standards help?