腾讯发布开源 MoE 模型 Hy3
Simon Willison··作者 Simon Willison
关键信息
完整模型在 Hugging Face 上标注为 598GB,FP8 量化版本约为 300GB。腾讯还表示该模型的上下文长度为 256K,这意味着如果用户能够承担存储和算力成本,它更适合长上下文任务。
资讯摘要
2026 年 7 月 6 日,Simon Willison 介绍了腾讯 Hy 团队发布的 Hy3。Hy3 是一个采用 Apache 2.0 许可证的新模型,属于混合专家(MoE)架构。腾讯称它有 2950 亿参数,其中 210 亿为激活参数,另有 38 亿 MTP 层参数。该模型是在 4 月下旬发布 Hy3 Preview 之后进一步迭代而来。
腾讯表示,他们收集了来自 50 多个产品的反馈,并用更高质量的数据扩大了后训练规模。公司还宣称,Hy3 在表现上优于同规模模型,并且可以对标参数量高出 2 到 5 倍的旗舰开源模型。腾讯同时表示,它在各类产品和生产力任务中带来了明显的实用性提升。该模型完整版本在 Hugging Face 上大小为 598GB,FP8 量化版本约 300GB,上下文长度为 256K,并且在 2026 年 7 月 21 日前可在 OpenRouter 上免费使用。

资讯正文
2026年7月6日 - Link Blog
tencent/Hy3。腾讯在中国发布的一款采用 Apache 2.0 许可证的新模型:
Hy3 是由腾讯 Hy 团队开发的一款 2950 亿参数的 Mixture-of-Experts(MoE)模型,拥有 210 亿个激活参数和 38 亿个 MTP 层参数。在 4 月下旬推出 Hy3 Preview 之后,我们收集了来自 50 多款产品的反馈,并使用更高质量的数据扩大了后训练规模。今天,我们推出 Hy3;它在同等规模模型中表现更优,并且可与参数量高出 2 到 5 倍的旗舰开源模型相媲美。它在多种产品和生产力任务中的实用性也有显著提升。
Hy3 是由腾讯 Hy 团队开发的一款 2950 亿参数的 Mixture-of-Experts(MoE)模型,拥有 210 亿个激活参数和 38 亿个 MTP 层参数。在 4 月下旬推出 Hy3 Preview 之后,我们收集了来自 50 多款产品的反馈,并使用更高质量的数据扩大了后训练规模。今天,我们推出 Hy3;它在同等规模模型中表现更优,并且可与参数量高出 2 到 5 倍的旗舰开源模型相媲美。它在多种产品和生产力任务中的实用性也有显著提升。
完整尺寸的模型在 Hugging Face 上大小为 598GB,而 FP8 量化版本为 300GB。上下文长度为 256K。
它在 7 月 21 日之前可在 OpenRouter 上免费使用。我在那里让它“生成一只骑自行车的鹈鹕的 SVG”,得到的是这个:
来源与参考
收录于 2026-07-08