Gerganov 称赞 Qwen3.6-27B 的本地编程能力

Simon Willison··作者 Simon Willison

关键信息

Gerganov 说,他主要把这个模型用于 ggml-org 里的小型、琐碎任务,而审查 PR 仍然占据他很多时间。他提到的配置刻意保持极简,使用离线运行方式和简短提示词,以便更贴合自己的工作风格。

资讯摘要

在 Simon Willison 引用的一条 Hacker News 评论中,Georgi Gerganov 说他“100% 确认”Qwen3.6-27B 是一款很强的本地编程模型。他表示,过去大约一个半月里,自己几乎每天都会在 M2 Ultra 机器或 RTX 5090 设备上使用它。使用场景并不是炫目的基准测试,而是 ggml-org 里一些小型、日常的维护任务。他还说,如果自己不用花那么多时间审查 PR,他本来会更频繁地使用这个模型。

Gerganov 介绍,自己当前的配置非常轻量:使用被尽量精简的 pi agent,并通过 `pi -nc --offline` 方式运行。他还配合 llama.cpp 仓库里的一个简短系统提示词,让模型的输出更贴近自己的工作风格。这段话更像是一次实际经验分享,而不是正式评测,但它提供了一个开发者在日常维护工作中有效使用本地模型的具体例子。

资讯正文

“我可以百分之百保证,Qwen3.6-27B 是一款在编码任务上非常能打的本地模型。在过去一个半月里,我几乎每天都在用它,不是在我的 M2 Ultra 上,就是在我的 RTX 5090 机器上。我把它用在 ggml-org 的一些小型琐碎任务上——说不上多惊艳,但对维护者来说绝对是个有帮助的工具。我想,如果我不用花大量时间审 PR,我会更常用它。现在我用的是一个非常轻量的 harness——把所有东西都剥掉的 pi agent(<code>pi -nc --offline</code>),再加上一段<a href="https://github.com/ggml-org/llama.cpp/blob/master/.pi/gg/SYSTEM.md">很短的 system prompt</a>,让它的风格稍微更贴近我的习惯。”

——Georgi Gerganov,在 Hacker News 上对 Boykis 的《Running local models is good now》所作评论

来源与参考

  1. 原始链接
  2. A quote from Georgi Gerganov

收录于 2026-06-17