arXiv将惩罚AI生成劣质稿件

关键信息

Dietterich表示，这项政策源自arXiv现有的审核标准，这些标准要求学术交流在形式上经过认真准备，并保持总体严谨。arXiv还设有申诉流程，且据称处罚会施加到论文的所有作者，而不只是使用AI工具的那个人。

资讯摘要

Ars Technica 报道称，arXiv 正准备对包含 AI 生成问题的投稿进行处罚，这类内容常被称为“AI slop”。文章提到，这些问题包括虚假引用、未编辑的提示词回复、毫无意义的图表，以及其他可能混入审稿流程的不当AI产物。Thomas Dietterich 是俄勒冈州立大学的名誉教授，同时参与 arXiv 的编辑顾问委员会和审核团队，他在 X 上发帖介绍了这项新的执行方式。根据他引用的审核标准，投稿必须在学术交流的形式上符合要求，并且需要经过认真准备。Dietterich 表示，如果作者提交了包含不当语言、剽窃内容、带偏见内容、错误、失误、错误参考文献或误导性内容的材料，即使这些内容是 AI 生成的，责任仍然在作者本人。

按照报道中的新政策，违规论文的所有署名作者都将被禁止向 arXiv 投稿一年。除此之外，这些作者未来的任何稿件都必须先经过期刊同行评审，arXiv 才会接收。文章指出，这种处罚对天文学等高度依赖 arXiv 的领域尤其严重，因为预印本本来就是正式发表流程中的常规一环，研究人员也常通过预印本获得反馈后再投期刊。文章还提到，arXiv 的审核体系设有申诉流程，但截至报道发出时，arXiv 官方领导层尚未就此公开确认这一政策。

资讯正文

AI 生成的垃圾内容已经无处不在，甚至出现在同行评审文献中。虚假的引用、未经过编辑的提示词回复以及毫无意义的图表，都曾溜过编辑和审稿人的眼睛，而且这些责任人是否真的会因此付出代价，也并不总是清楚。

现在看来，在同行评审或期刊介入之前，一些科学领域就将开始针对 AI 生成的问题执行规则。参与物理与天文学预印本服务器 arXiv 事务的一位人士在社交媒体帖文中宣布，任何提交到该服务器的不当 AI 生成内容都将导致一年禁发，并且未来发表的论文将永久被要求先经过同行评审，arXiv 才会收录。

Thomas Dietterich 除了是俄勒冈州立大学的荣休教授之外，还深度参与 arXiv 事务，担任其编辑咨询委员会成员和审核团队成员。因此，他很适合了解该组织的政策；不过，我们也已联系 arXiv 管理层寻求确认，但截至目前尚未收到回复。

Dietterich 在 X 上发布的一串帖子中（对于没有 X 账号的用户，Bluesky 上也有截图），将这项新政策描述为直接源自 arXiv 的审核标准。“提交到 arXiv 的论文在形式上必须符合学术交流的适当标准，包括合适且经过认真准备的章节、图表、表格、参考文献等，”这些标准写道。“必须保持高度认真和细致的准备。”

Dietterich 还指出，一篇稿件的所有作者都要对其内容负责。因此，如果他们草率提交了由 AI 生成、且违反这些准则的材料——Dietterich 列举了“不当语言、剽窃内容、带偏见的内容、错误、失误、不正确的参考文献或误导性内容”——那么负责的就是作者，而不是 AI。一旦发现违规，稿件列出的所有作者都将被禁止提交一年，且今后任何稿件只有在经过期刊同行评审后才会被接受。

对于高度依赖 arXiv 的领域来说，这样的处罚非常严厉。在天体物理等领域发布预印本通常被视为正常发表流程的一部分，科学家们往往也会从预印本那里获得反馈，从而改进他们提交同行评审的版本。遗憾的是，像其他很多事情一样，这套系统也可能被钻空子——有人可能提交有缺陷的内容，却把从未参与其中的人列为作者。所幸，其审核系统包含申诉流程。

当这些问题出现在发表成果中时，一个显而易见的问题是，为什么没人更早发现它们。现在，至少我们可以知道，有人在努力阻止这种情况发生。

来源与参考

1. 原始链接
2. Send the arXiv AI-generated slop, get a yearlong vacation from submissions