Reddit用LLM对抗AI生成垃圾信息

关键信息

Reddit表示，这些新工具更擅长发现旧系统容易漏掉的细微、协同式虚假行为模式和人为炒作。文章同时指出，AI内容审核只有与人工审核结合，效果才会最好，而不是完全替代人工。

资讯摘要

随着大语言模型变得越来越容易获取，互联网上的垃圾信息和机器人活动也更容易被大规模生成。Reddit表示，它正在用LLM来识别并拦截垃圾内容，而这些垃圾内容中有很大一部分本身就是用LLM生成的。公司把这种做法描述为AI时代的“以火攻火”。Reddit称，它目前每天拦截2300万次垃圾内容浏览，并每天抓取约2.5万条新的垃圾帖子和评论。

根据Reddit的博客文章，新系统更擅长发现旧系统漏掉的那种细微、协同式虚假行为和人为炒作。公司还声称，从1月到3月，用户接触到的垃圾内容比前3个月下降了20%。文章还把Reddit的做法放在更广泛的平台趋势中进行对比，提到YouTube、Meta、Instagram和TikTok都在调整与AI生成内容相关的政策和控制手段。文章最后指出，更好的AI检测还可能帮助平台更快识别仇恨言论等有害内容，但人工审核仍然是不可或缺的一环。

资讯正文

随着强大的大语言模型（LLM）变得唾手可得，坏人散布垃圾信息席卷互联网比以往任何时候都更容易。如果你在过去几年里曾在互联网上待过大约10分钟，你就会知道，这意味着垃圾信息和机器人内容已经成为一个比原本更严重的问题。

Reddit表示，它开发了利用LLM的工具来减少垃圾信息，而其中很多垃圾信息本身就是用LLM生成的。多少有点讽刺，但在AI时代，平台别无选择，只能以火攻火。该平台称，Reddit每天会拦截2300万次垃圾信息浏览，并且每天还能发现约25,000条新的垃圾帖子和评论。

社交平台多年来一直在构建自动化的垃圾信息削减工具，但Reddit表示，这些更新后的工具正在以更高的比例捕获垃圾信息。

Reddit一篇博客文章写道：“我们利用LLM来捕捉那些极其微妙、协同一致的虚假行为模式和人工炒作，而旧系统曾经会漏掉这些内容。”该公司声称，与前3个月相比，它在1月至3月期间将用户接触到垃圾信息的比例降低了20%。

YouTube、Meta和Instagram等平台允许用户发布AI生成内容，只要他们进行披露即可；TikTok甚至进一步允许用户切换自己想看到多少AI生成内容。

如果平台能够更快地检测AI生成内容，这也意味着它们有可能更快地标记仇恨言论等违规内容。但平台专家不断提醒我们，AI内容审核必须与人工审核结合，才能取得最有效的结果。

来源与参考

1. 原始链接
2. Reddit is using LLMs to solve a problem LLMs largely created | TechCrunch