AMD收购Taalas布局模型专用AI芯片

关键信息

Taalas的方法高度专用：芯片与单一模型绑定，这让推理速度极快，但会牺牲灵活性。AMD表示，计划把这项技术纳入其加速器路线图，并作为系统级方案与Instinct GPU一起提供；不过这笔收购仍需通过常规监管审批。

资讯摘要

AMD已经同意收购加拿大AI初创公司Taalas，这家公司采用了一种非常特殊的推理硬件路线。Taalas成立于2023年，总部位于多伦多，它不是在运行时从内存加载模型参数，而是把模型的架构和训练好的权重直接写进硅片。该公司在今年2月结束隐身并首次公开亮相，展示的一颗演示芯片据称在运行Llama 3.1-8B时，单用户吞吐超过每秒16,000个token，明显快于演示中对比的其他硬件。代价是，这种芯片与单一模型绑定，因此极其专用，而不是通用型方案。

AMD表示，会把这项技术纳入自己的加速器路线图，并将其与Instinct GPU一起作为更完整的系统级方案提供。AMD AI部门高级副总裁Vamsi Boppana表示，这笔收购将增强公司的AI产品组合。Taalas联合创始人Ljubisa Bajic则表示，AMD能提供初创公司所需要的规模和市场覆盖。该交易仍需通过常规监管审批。

资讯正文

AMD 正在收购加拿大 AI 初创公司 Taalas，后者专门打造推理芯片。Taalas 于 2023 年在多伦多成立，并于 2 月结束隐身状态，其做法相当不同寻常：该公司将模型的架构和训练参数直接嵌入芯片中。这使推理速度极快，但也意味着每颗芯片只能绑定单一模型。一款演示芯片在运行 Llama 3.1-8B 时，单用户吞吐量超过每秒 16,000 个 token，速度远超竞争硬件。据报道，Google 也在为 Gemini 开发类似芯片。

AMD 计划将这项技术纳入其加速器路线图，并将其与 Instinct GPU 一起作为系统级解决方案提供。AMD AI 部门高级副总裁 Vamsi Boppana 表示，这笔交易增强了公司的 AI 产品组合。Taalas 联合创始人 Ljubisa Bajic 表示，AMD 提供了这家初创公司所需要的规模和覆盖范围。此次收购仍需获得常规监管批准。

来源与参考

1. 原始链接
2. AMD acquires Taalas, a startup that bakes AI models directly into silicon