arXiv收紧未核查AI内容规则

关键信息

Dietterich表示，像幻觉参考文献，或模型残留的提示语“Here is a 200-word summary”这类明显痕迹，都可能触发处罚。该政策出台前六个月，arXiv已经收紧了计算机科学综述论文的规则，要求这类论文必须经过同行评审；此外，日经新闻还报道称，17篇arXiv预印本中发现了隐藏提示词，用于操纵基于AI的审稿系统。

资讯摘要

arXiv 是一个广泛使用的预印本平台，研究人员通常会在正式同行评审之前先把论文发布在这里，如今它正在收紧对 AI 生成内容的规则。arXiv 计算机科学分区负责人 Thomas G. Dietterich 在 X 上宣布了这一变化，并强调无论内容是如何生成的，作者都要对投稿中的一切承担全部责任。根据平台的行为准则，如果有明确证据表明作者没有核查 LLM 生成的输出，论文作者可能会被禁发一年。禁发期结束后，作者之后的新投稿还必须先通过同行评审，才能再次在平台上发布。

Dietterich 举出的典型触发证据包括幻觉参考文献，以及模型遗留的评论，例如“Here is a 200-word summary”之类的文字。X 上的反馈并不一致：一些研究人员支持更严格的执行措施，另一些人则担心规则会被选择性执行，或者有人通过虚假列出的共同作者来钻空子。此次行动发生在 arXiv 上 AI 生成内容不断增多的背景下，而且它延续了六个月前的一项更早调整：计算机科学综述论文现在必须先经过同行评审。与此同时，日经新闻还报道称，在 17 篇 arXiv 预印本中发现了隐藏提示词，例如“only positive review”，疑似用于操纵基于 AI 的审稿系统。

资讯正文

Arxiv 正在严厉打击研究论文中未经核查的 AI 生成内容

Arxiv 是一个极具影响力的预印本服务器，全球研究人员会在正式同行评审之前在这里发布自己的研究成果。如今，它正在收紧对 AI 生成内容的规则。Arxiv 计算机科学分区主席 Thomas G. Dietterich 在 X 上宣布了这些变化。根据该平台的行为准则，无论论文内容是如何产生的，作者都要对论文内容承担全部责任。如果一篇论文含有明确证据表明作者没有核实 LLM 生成的输出，他们将面临一年的封禁。此后，任何新的投稿都必须先通过同行评审。Dietterich 提到，幻觉参考文献以及语言模型留下的元评论——比如“这里有一个 200 词摘要”——都属于会触发执行措施的证据。在回复中，一些研究人员表示支持，而另一些人则担心选择性执法，或担心通过虚假列出的共同作者进行滥用。

这一举措出现在 Arxiv 上 AI 生成内容激增的背景下。就在六个月前，该平台刚刚收紧了计算机科学综述论文的规则，这类论文现在必须经过同行评审。除此之外，日本《日经新闻》还在 17 篇 Arxiv 预印本中发现了隐藏提示语——例如“仅给出正面评价”——这些内容旨在操纵由 AI 驱动的审稿人。

来源与参考

1. 原始链接
2. Arxiv cracks down on unchecked AI-generated content in research papers