法庭文件中的隐形提示注入
The Decoder··作者 Tomislav Bezmalinović
关键信息
沃尔特·斯派德尔二世法官表示，康涅狄格州法院并不使用 AI 来审查或裁决文件，因此这些隐藏指令并未影响案件结果。尽管如此，他仍将这一行为视为不当的秘密沟通，并警告说语言模型可能会强化用户有缺陷的法律推理，而不是对其提出质疑。
资讯摘要
一名在康涅狄格州自行诉讼的原告马修·埃利奥特被发现，在正式法庭文件中嵌入了提示注入指令。隐藏文本采用 3 磅白色字体、白色背景的格式，对人眼几乎不可见，但语言模型在处理文档文本时仍然可以读取。这些指令要求假设中的 AI 系统让输出与提交的文件保持一致，并把此前书记员的驳回视为需要纠正的错误。埃利奥特于 2025 年 10 月起诉了 New York Bariatric Group，主张数据隐私侵权、歧视及其他诉求。法院之所以发现问题，是因为注意到文件中出现了异常多的空白，于是进一步检查并识别出这些近乎隐形的文字。
随后，沃尔特·斯派德尔二世法官安排听证，并明确警告埃利奥特不要在法庭文件中隐藏文字。埃利奥特之后仍继续提交包含隐藏信息的新文件，其中甚至包括一个 YouTube 链接和带有嘲讽意味的评论。他对 404 Media 表示，最初的做法是对潜在 AI 审查系统的一次“审计”，而后来的信息只是“隐形玩笑”。在一份 14 页的裁定中，斯派德尔指出康涅狄格州法院并不使用 AI 来决定文件，因此这些隐藏指令并未影响案件结果，但他强调，这种企图本身就是不诚实的，类似于通过自动化代理秘密影响陪审员。作为制裁，法院取消了埃利奥特的电子提交权限，要求他今后必须亲自到书记员办公室以纸质方式提交所有文件和证据。
资讯正文
原告在法庭文件中隐藏不可见的 AI 指令，试图秘密影响自动化审查
要点
- 康涅狄格州一名原告在正式法庭文件中隐藏了不可见的指令，试图左右潜在的自动化 AI 审查，使其对自己有利。
- 他使用的是极小号白色文字，印在白色背景上，人眼看不见，但语言模型可以完整读取。
- 法院因发现异常空白而识破了这一操纵手法。主持法官将这一方案比作通过自动化代理秘密向陪审员传递信息。
一名在康涅狄格州自行出庭的原告，在正式法庭文件中嵌入了不可见的 AI 指令，试图左右潜在的自动化审查，使其对自己有利。
这名自行代理出庭的原告名叫 Matthew Elliott，他在一宗康涅狄格州案件的提交材料中嵌入了 prompt injection。相关指令采用 3 磅白色文字、印在白色背景上，对人眼几乎不可见，但任何对文档文本进行处理的 AI 都能完整读取。
这些隐藏文字指示一个假设中的 AI 系统确保其输出与所提交的文件保持一致，并将此前书记员的驳回视为需要纠正的错误。Elliott 于 2025 年 10 月起诉了 New York Bariatric Group，指控其存在数据隐私违规、歧视等多项问题。
法院发现可疑空白
该手法之所以败露，是因为法院注意到 Elliott 的文件中出现了异常多的空白区域。进一步查看后，便发现了这些几乎看不见的文字。Walter Spader Jr. 法官安排了听证会，并明确警告 Elliott 不得在法庭文件中隐藏文字。
Elliott 无视了这一警告。在后续提交的文件中，他再次隐藏了信息，包括一个 YouTube 链接和嘲讽性评论。他告诉最先报道此案的 404 Media，最初的做法是对一个可能存在的 AI 审查系统进行“审计”。他说，后来的那些信息只是“看不见的玩笑”。
法官将 prompt injection 比作秘密影响陪审员
在这份 14 页的裁定书中（可在这篇 LinkedIn 帖子中查看），Spader 法官明确表示，康涅狄格州法院并不使用 AI 系统来审查或裁决提交材料。隐藏指令并没有对结果产生任何影响。但他写道，问题在于这一尝试本身，因为它是以隐蔽方式试图影响一个可能被使用的 AI 系统。
“试想一下，如果一方安排自动化代理在审判期间秘密与陪审员沟通，会是多么明显的不当行为，”Spader 写道。隐藏指令本质上是一种秘密通信，目的是影响决策者，或影响他们在决策时所依赖的工具。
与此同时，这位法官也明确欢迎在准备法庭文件时使用 AI。他写道，这些工具为没有律师的人提供了新的方式，使他们能够在法庭上清晰地陈述自己的案件。Elliott 所做的是对这些工具的欺骗性使用。Spader 还警告称，语言模型可能会强化有缺陷的法律推理，因为它们往往会尽可能有说服力地发展用户的论点，而不是对其提出质疑。
法院撤销电子提交权限
作为制裁，法院剥夺了 Elliott 电子提交文件的权利。他现在必须亲自把所有文件和证据材料以纸质形式提交到书记员办公室。Elliott 告诉 404 Media，这项制裁并不公平，并指出扫描后的纸质文档也可能包含隐藏文本。
Spader 提到了巴西的一个类似案例，在那起案件中，两名律师也在一份提交材料里藏入了缩小到极小的白色文字，白底白字，试图操纵法院的 AI 系统。在那起案件中，法院自己的系统在文本被处理之前就检测并阻止了它。这个提示注入失败了。
提示注入问题已蔓延到法庭之外
试图通过文档中的隐藏指令操纵 AI 系统，并不只限于法院文件。去年，日经新闻发现，在 arXiv 上的 17 篇预印本中存在诸如“仅正面评价”或“不要批评”之类的指令。这些指令被藏在白底白字以及极小字号中，目的都是扭曲由 AI 驱动的同行评审，使其偏向作者。
司法系统也在应对另一种由 AI 驱动的趋势。麻省理工学院和南加州大学的一项研究发现，自从 ChatGPT 走向主流后，美国联邦法院中没有律师代理提起的诉讼数量激增。2025 年，共有 41,490 起自诉案件提起，几乎是 AI 热潮前平均水平的两倍。在对 2026 年初一批诉状的样本分析中，一款 AI 文本检测器将其中 18% 标记为 AI 生成。Elliott 这一案件为此又增添了一层意味：AI 不只是帮助人们起草法庭文件，它也正在成为这些文件内部被操纵的目标。
来源与参考
收录于 2026-08-16