埃隆·马斯克确认xAI使用OpenAI模型训练Grok

TechCrunch AI·5月1日 02:03 UTC·作者 Tim Fernholz

关键信息

马斯克表示蒸馏是AI公司间的普遍做法，但未确认是否符合OpenAI的服务条款；xAI成立于2023年，比OpenAI晚多年，因此这种训练策略具有战略合理性。

资讯摘要

在一场备受关注的法庭听证会上，埃隆·马斯克承认xAI利用知识蒸馏技术从OpenAI模型中训练其Grok人工智能。该技术将大型复杂模型的知识转移到小型模型中，从而无需重新训练即可复制能力。虽然这种做法本身并不违法，但可能违反OpenAI等平台设定的服务条款。

这一披露为马斯克对OpenAI提起的诉讼提供了背景支持，他指控该公司背弃了非营利使命。这也反映了整个行业的趋势：企业越来越多地使用公共API和聊天机器人来构建自己的模型，通常比从头训练成本更低。

资讯正文

OpenAI 和 Anthropic 近来一直在反对第三方通过提示其公开可用的聊天机器人和 API 来训练新 AI 模型的做法，这种技术被称为“蒸馏”（distillation）。

这场讨论主要集中在中国企业利用蒸馏技术创建出几乎与美国产品相当但成本低得多的开源模型。然而，科技从业者普遍认为，美国实验室之间也在使用这些技术，以避免落后于竞争对手。

现在我们知道至少有一种情况属实：周四，在加州联邦法院作证时，有人问埃隆·马斯克（Elon Musk）是否 xAI 曾使用蒸馏技术对 OpenAI 模型进行训练以训练 Grok，他声称这在 AI 公司中是一种普遍做法。当被问及这是否意味着“是”时，他回答说：“部分是。”

马斯克正在起诉 OpenAI、首席执行官山姆·阿尔特曼（Sam Altman）和格雷格·布洛克曼（Greg Brockman），指控他们违背了 OpenAI 最初的非营利使命，将其转变为营利性实体。本周该庭审开始，有这位科技领袖作证。

马斯克的承认值得注意，因为蒸馏威胁到了 AI 巨头们的竞争优势，因为它削弱了它们依靠计算基础设施投资所建立的优势。这让其他软件开发商能够以低成本打造能力接近主流模型的产品。这其中不乏讽刺意味——前沿实验室在寻找足够数据训练模型的过程中，被指涉嫌违反版权规则。

马斯克的 xAI 是在 2023 年才成立的，比 OpenAI 晚了好几年，因此它试图向当时的行业领导者学习也就不足为奇了。目前尚不清楚蒸馏是否明确违法，但可能违反了公司为其产品用户设定的服务条款。

据报道，OpenAI、Anthropic 和谷歌已通过前沿模型论坛（Frontier Model Forum）启动一项倡议，共享对抗中国蒸馏尝试的信息。这些方法通常涉及系统性地查询模型以了解其内部机制。为了阻止此类行为，前沿实验室正努力防止用户发起可疑的大规模查询。

截至发稿时，OpenAI 尚未回应关于马斯克承认的评论请求。

在后续作证中，有人询问马斯克去年夏天提出的说法，即 xAI 不久后将远超除谷歌之外的所有公司。对此，他列出了全球领先的 AI 提供商排名，称 Anthropic 排名第一，其次是 OpenAI、谷歌以及中国开源模型。他还表示，xAI 是一家规模小得多的公司，员工仅几百人。

来源与参考