中转市场助推低价 LLM 令牌转售
Simon Willison··作者 Simon Willison
关键信息
报道重点提到开源代理工具，尤其是 one-api 及其分支 new-api，这些本来是合法的 LLM 网关产品，但也可能被改造成在多个 API 密钥之间转发和负载均衡请求。买家在寻找更便宜的令牌、绕过地域限制的方法，有时还会获取用于模型蒸馏的数据。
资讯摘要
Simon Willison 转引并介绍了 Matt Lenhard 对 LLM 令牌转售中转市场的调查。这个市场看起来主要集中在中国，转售者不是直接提供官方 API，而是提供折扣很大的 LLM 代理访问。文章指出，这些折扣通常来自各种滥用行为，包括薅免费试用、通过未受保护的客服机器人转发请求、盗刷信用卡，以及拒付欺诈。相关代理软件大多是开源的，尤其是 one-api 以及维护更活跃的分支 new-api。
它们本来是合法的 API 密钥管理和负载均衡工具，但也可以被用来把多个来源的密钥汇聚成一个兼容 OpenAI 的统一接口。买家之所以使用这类服务，是为了获得更便宜的令牌、绕过地域限制，有时还为了收集用于模型蒸馏的数据。Willison 表示，这个生态让他对公开暴露自己的 LLM 应用更加谨慎，因为任何未加保护的端点都可能成为被利用的目标。 他还呼吁 LLM 厂商提供更严格的 API 密钥消费上限，让应用在达到用户设定的金额阈值时立即停止。
资讯正文
<p><strong><a href="https://vectoral.com/blog/token-relay-market">深入了解支撑 Token 转售和欺诈的中转市场</a></strong></p>
Matt Lenhard 对这个市场做了一篇引人入胜的调查：有人通过从各种来源汇集 API 密钥，以折扣价转售 LLM tokens，围绕这一行为已经形成了一个市场。</p>
<p>这看起来主要发生在中国。转售者出售对某个 LLM 代理的访问权限，该代理相较于常规 API 定价提供了大幅折扣；他们实现这一点的方式包括滥用免费试用、通过未受保护的支持机器人进行转发，或者有时通过盗刷信用卡或拒付攻击。</p>
<p>他们用于这些代理的软件是开源的——主要是 <a href="https://github.com/songquanpeng/one-api">one-api</a> 及其更积极维护的分支 <a href="https://github.com/QuantumNous/new-api">new-api</a>，这两者都是合法的 API 代理产品，可用于在一组 API 凭据之间对请求进行负载均衡。</p>
<p>买家则是在寻找便宜的 tokens、规避地理限制，并且在某些情况下还会收集数据用于模型蒸馏。</p>
<p>我一直对将自己的 LLM 驱动应用公开部署持谨慎态度，因为担心被滥用会导致高额的 token 账单。这个市场的存在让我更加谨慎：现在已经有一整套生态系统，可以通过寻找一个新的、未受保护的端点来牟利并加以利用。</p>
<p>LLM 厂商<em>真的</em>需要在 API 密钥限额方面做得更好一些。我希望我的 LLM 应用一旦在我设定的某个时间段内达到某个美元阈值，就立刻停止工作。</p>
<p>这里有 <a href="https://www.v2ex.com/t/1196011">那个中文论坛帖子</a>，它是 Matt 文章的主要来源。</p>
<p><small></small>Via <a href="https://news.ycombinator.com/item?id=49058993">Hacker News</a></small></p>
<p>Tags: <a href="https://simonwillison.net/tags/ai">ai</a>, <a href="https://simonwillison.net/tags/generative-ai">generative-ai</a>, <a href="https://simonwillison.net/tags/llms">llms</a>, <a href="https://simonwillison.net/tags/llm-pricing">llm-pricing</a>, <a href="https://simonwillison.net/tags/ai-ethics">ai-ethics</a>, <a href="https://simonwillison.net/tags/ai-in-china">ai-in-china</a></p>
来源与参考
收录于 2026-07-27