安德鲁·凯利谈通过行为线索识别LLM辅助编程
Simon Willison··作者 Simon Willison
关键信息
凯利强调,使用代理式编程(即LLM驱动的工作流)的人表现出微妙但可识别的‘数字气味’——他用这个比喻来形容一种能表明非人类来源的行为一致性。这并不是关于技术检测工具,而是关于人类的直觉和经验。
资讯摘要
2026年4月30日,Zig语言创建者安德鲁·凯利在一篇博客文章中指出,认为我们无法判断谁在使用LLM进行编程是一种误解。他认为,LLM生成的代码常包含与人类不同的错误类型,比如幻觉或重复结构,有经验的开发者可以识别出来。此外,他还提出了‘数字气味’的概念:例如过度依赖自动建议或提交过于整洁等行为,表明正在使用代理式编程。
他将这种现象类比为吸烟者走进无烟房间,说明这些线索对不使用此类工具的人来说是显而易见的。尽管他并未反对使用LLM,但他呼吁尊重共享工作空间——就像不要在他人的房子里吸烟一样。
资讯正文
2026年4月30日
人们普遍误解了我们无法分辨谁在使用大语言模型(LLM),谁没有使用这一点。我确信过去几个月里我们并未捕捉到100%的由LLM辅助的代码提交(PR),但人类犯的错误与LLM产生的幻觉本质上完全不同,因此很容易识别出来。此外,来自代理编程(agentic coding)领域的人会带有一种特定的‘数字气味’,他们自己并不觉得明显,但对那些不使用LLM的人来说却非常清晰。这就像一个吸烟者走进房间时,所有不吸烟的人都能立刻察觉一样。我不是劝你别抽烟,但我明确告诉你:不要在我家抽烟。
人们普遍误解了我们无法分辨谁在使用大语言模型(LLM),谁没有使用这一点。我确信过去几个月里我们并未捕捉到100%的由LLM辅助的代码提交(PR),但人类犯的错误与LLM产生的幻觉本质上完全不同,因此很容易识别出来。此外,来自代理编程(agentic coding)领域的人会带有一种特定的‘数字气味’,他们自己并不觉得明显,但对那些不使用LLM的人来说却非常清晰。这就像一个吸烟者走进房间时,所有不吸烟的人都能立刻察觉一样。
我不是劝你别抽烟,但我明确告诉你:不要在我家抽烟。
—— Andrew Kelley,Zig语言创造者
来源与参考
收录于 2026-05-01