中国要求关闭AI聊天伴侣人格功能

关键信息

这些规定由中国国家互联网信息办公室于4月发布，要求服务提供者警示用户不要过度使用，并在检测到成瘾行为时进行干预。规定还禁止激发未成年人极端情绪、促成挤占现实关系的依赖，以及使用敏感对话数据进行训练。

资讯摘要

中国正在要求其最大的AI平台关闭类人的聊天人格功能，这是北京加强对拟人化AI互动服务监管的一部分。根据文中引用的报道，拥有超过3亿月活用户的字节跳动豆包，将在7月15日下线人格功能。阿里巴巴的通义千问则更早行动，将在7月10日移除类人智能体，而其他智能体功能会在7月15日关闭。腾讯元宝已经在6月停用了类似功能。这些变化都源于中国国家互联网信息办公室在4月发布的新规。

新规立即生效，要求AI服务提供者提醒用户避免过度使用，并在检测到成瘾行为时进行干预。规定还禁止那些会在未成年人中引发极端情绪、或者促成替代现实关系的依赖性内容。此外，使用敏感对话数据进行训练也被明令禁止。文章强调，这项政策主要针对陪伴型AI和情感沉浸式聊天人格，而不只是普通文本助手。它同时把这一变化放在更广泛的AI情感操控与依赖风险讨论中来看，指出这类问题也正在成为中国以外地区的监管议题。

资讯正文

中国迫使其最大的 AI 平台关闭拟人化聊天机器人角色

字节跳动和阿里巴巴正在关闭允许用户创建和与自定义 AI 伴侣聊天的功能，以响应北京出台的新规。据《南华早报》报道，拥有超过 3 亿月活跃用户、在中国最受欢迎的聊天机器人豆包，将于 7 月 15 日下线其角色功能。阿里巴巴的通义千问则更早移除其类人代理，时间是 7 月 10 日，而“额外的代理功能”将于 7 月 15 日停止。腾讯的元宝已在 6 月采取了同样的举措。

这些变化背后的规则由中国国家互联网信息办公室于 4 月发布，并在同一天生效。服务提供方必须警告用户不要过度使用，并在发现成瘾行为时介入。会触发未成年人极端情绪、或助长挤占现实关系的依赖性的内容均被禁止。对敏感对话数据进行训练也同样被禁止。

这一趋势并不局限于中国。自今年年初起，加州依据 SB 243 要求陪伴型 AI 提供商阻止有关自杀和自我伤害的对话。在美国，OpenAI 和 Character.AI 正面临关于危险情感依赖的诉讼。

来源与参考

1. 原始链接
2. China forces its biggest AI platforms to shut down humanlike chatbot personas