OpenAI加强暴力防范措施与青少年保护

关键信息

如果对话显示用户持续执着于暴力或严重伤害他人，ChatGPT可能会结束聊天；若因此多次中断聊天，账号可能被暂时暂停。首份安全报告计划于2027年初发布，涵盖2026年下半年，之后预计每六个月更新一次；相关防护措施预计将在未来几周开始推出。

资讯摘要

OpenAI表示，将加强ChatGPT的暴力防范措施，并计划在2026年10月30日公告后的几周内开始推出这些措施。对于有关过往大规模袭击的问题，模型将减少提供的细节，并限制重现袭击过程、描述所用武器或装备及其获取方式，或详细比较伤害规模。OpenAI表示，用户仍可询问事件对受害者和社区造成的影响、风险信号以及暴力预防方法。公司还将扩展对近期对话内容的利用：如果聊天显示可能存在暴力风险信号，ChatGPT将更谨慎地提供可能被滥用的信息。

若对话显示用户持续执着于暴力或严重伤害他人，系统可能自动结束聊天；多次因此中断聊天，可能导致账号被暂时暂停。青少年保护措施将进一步限制实用性的武器相关信息，即使请求表面上看似无害也适用；但青少年仍可寻求暴力预防、缓和冲突和获得支持方面的帮助。OpenAI表示，首份《社区安全报告》将于2027年初发布，涵盖2026年下半年，之后每六个月更新一次。

资讯正文

社区安全报告与针对青少年的新保护措施

OpenAI 正通过扩展安全防护措施、提前进行干预，并作出发布公共安全报告的新承诺，加强 ChatGPT 中的暴力预防工作。

来源与参考

1. 原始链接
2. Community safety report and new protections for teens