Meta回应涉及儿童隐私的侵入式人工智能提问

关键信息

Meta称，生成的回答基于用户本来就能访问的信息，并表示Robins曾在视频中提到女儿的名字，这可能为系统提供了部分信息。Robins还称系统展示了女儿的照片，其中包括一张她认为多年前已经删除的照片，但报道并未独立确认该图片是如何被检索出来的。

资讯摘要

Meta表示，在一段引发广泛关注的视频曝光了涉及儿童的侵入式提问后，公司将修改人工智能聊天机器人推荐的提示。Instagram用户Kalie Robins把自己和孩子在车里唱歌的视频转发到Facebook后，发布视频讲述了这次经历。视频下方出现了“车上的儿童乘客是谁？”这一Meta AI提示。Robins称，她点击后，聊天机器人把她此前发布的内容以及亲属发布的内容联系起来，推断出有关女儿的信息。

系统随后又推荐了关于孩子年龄以及她和家人居住地点的问题。Robins还称，Meta AI展示了女儿的照片，其中包括一张她认为多年前已经删除的照片。Meta发言人Dina El-Kassaby承认公司“没有做到位”，并表示该功能“不应该向用户提出这类问题”。Meta称已经修复导致系统推荐个人话题提示的问题，同时解释说，生成的回答依据的是用户本来就能访问的信息。

资讯正文

据 Futurism 此前报道，Meta 表示，在一段病毒式传播的视频显示其人工智能聊天机器人试图挖掘一名女性年幼女儿的个人信息后，公司将调整 AI 建议的提示语。Meta 发言人 Dina El-Kassaby 在接受 The Verge 采访时表示，公司“没有把事情做好”，并补充说：“这项功能本不应该向用户提出这类问题。”

上周，Instagram 用户 Kalie Robins 发布了一段视频，解释 Meta AI 在她将一段视频交叉发布到 Facebook 后，向她提供了一条具有侵扰性的建议。她和孩子在车内唱歌的视频下方出现了“车内的儿童乘客是谁？”这一 AI 提示语。Robins 表示，当她选择该提示后，Meta AI 根据她此前发布的内容，以及她亲属发布的内容，拼凑出了有关她女儿们的信息。它还建议了其他提示，询问她孩子的年龄，以及 Robins 和家人居住在哪里。Robins 说，Meta AI 还展示了她女儿们发布在该平台上的照片，其中包括一张她声称多年前就已经删除的照片。

Meta 已将其 AI 助手整合到 Facebook、Instagram、WhatsApp 和 Messenger 中。该助手可以回答问题、撰写帖子并生成图片。今年 7 月，Meta 在遭遇强烈反弹后，撤下了一项允许用户制作其他 Instagram 用户 AI 深度伪造内容的功能。如今，Meta 的 El-Kassaby 表示，公司已经修复了导致 Meta AI 建议涉及个人话题提示语的问题。

El-Kassaby 表示：“我们设计这项功能，是为了帮助人们进一步了解他们感兴趣的话题或帖子。当用户点击提示并使用这项功能时，它生成的回答基于该用户已经能够访问的信息。”El-Kassaby 称，在这起事件中，Meta AI 可能提取了 Robins 在视频中说出孩子姓名的内容。

来源与参考

1. 原始链接
2. Meta says it’s changing AI suggestions after posing invasive personal questions