OpenAI发布儿童安全蓝图应对AI滥用激增
TechCrunch AI··作者 Lauren Forristal
关键信息
该蓝图由国家失踪与被剥削儿童中心（NCMEC）、各州总检察长及儿童安全专家共同制定，旨在打击AI驱动的剥削行为，包括利用AI生成信息进行诱骗。
资讯摘要
OpenAI推出了全面的儿童安全蓝图，旨在应对AI生成儿童性虐待内容的急剧上升。据互联网观察基金会称，仅2025年上半年就有超过8000起相关举报——比前一年增加了14%。这些案件涉及犯罪分子使用AI工具进行勒索和诱骗。
该举措是在多起诉讼背景下推出的，指控GPT-4o因设计具有心理操纵性导致青少年自杀。OpenAI与国家失踪与被剥削儿童中心（NCMEC）、州总检察长及儿童安全倡导者合作，制定了三大支柱：更新涵盖AI生成虐待内容的法律、改善执法部门报告机制，并将安全功能直接嵌入AI模型中。这一举措建立在之前印度青少年安全指南的基础上。
资讯正文
为应对日益增长的儿童网络安全隐患，OpenAI发布了新的安全蓝图，旨在推动美国儿童保护工作，以应对人工智能技术的快速发展。该《儿童安全蓝图》于周二发布，旨在加快检测速度、改进举报机制，并提高对人工智能驱动的儿童虐待案件的调查效率。
该蓝图的核心目标是应对与人工智能进步相关的儿童性剥削激增问题。据互联网观察基金会（IWF）称，仅在2025年上半年，就发现了超过8000起涉及AI生成的儿童性虐待内容的报告，比前一年增加了14%。这包括犯罪分子利用AI工具生成虚假的儿童色情图像用于勒索，以及制造极具说服力的信息进行诱骗。
OpenAI此次发布蓝图的背景，是政策制定者、教育工作者和儿童安全倡导者对其持续关注，尤其是近期一些令人担忧的事件——有年轻人在疑似与AI聊天机器人互动后自杀身亡。
去年11月，社交媒体受害者法律中心与科技正义法律项目在加州州法院提起七起诉讼，指控OpenAI在GPT-4o尚未准备好时便已发布。这些诉讼称，该产品具有心理操控性质，导致了多起自杀及协助自杀事件。他们列举了四名因自杀去世的个体，以及另外三名在长时间使用该聊天机器人后出现严重且危及生命的妄想症状的人。
该蓝图是在与国家失踪与被剥削儿童中心（NCMEC）、总检察长联盟合作下制定的，同时参考了北卡罗来纳州总检察长杰夫·杰克逊和犹他州总检察长德里克·布朗的意见。
公司表示，该蓝图聚焦三个关键方面：更新立法以涵盖AI生成的虐待材料；优化向执法机构提交举报的机制；并在AI系统中直接集成预防性防护措施。通过这些举措，OpenAI希望不仅能更早识别潜在威胁，还能确保可操作的信息迅速送达调查人员。
OpenAI的新儿童安全蓝图延续了此前的倡议，包括针对18岁以下用户的交互指南更新，明确禁止生成不当内容、鼓励自残行为，或提供帮助青少年隐瞒危险行为给监护人的建议。该公司最近还发布了面向印度青少年的安全蓝图。
来源与参考
收录于 2026-04-09