英伟达数据中心GPU最强竞争对手出货，AMD客户接收首批Instinct MI300X

近日LaminiAI首席执行官Sharon Zhou表示，AMD已经出货用于人工智能（AI）和高性能计算（HPC）的Instinct MI300X计算卡。据了解，LaminiAI得到了多台装载Instinct MI300X的机器，每台配有8块Instinct MI300X计算卡。这意味着，Instinct MI300X开始为企业运行大型语言模型（LLM）。

AMD开始出货Instinct MI300系列已经有一段时间了，预计新产品可能成为其历史上销售最快的产品，目前已达到10亿美元。对于AMD来说，这是一个重要的里程碑，将向英伟达主导的人工智能芯片领域发起挑战。首批Instinct MI300系列提供了两款产品，分别是Instinct MI300A（CPU+GPU）和Instinct MI300X（纯GPU）。

Instinct MI300X采用了小芯片设计，混用5nm和6nm工艺，晶体管数量达到了1530亿个。其使用了第四代Infinity Fabric解决方案，共有28个模块芯片，其中包括8个HBM和4个计算芯片，而每个计算芯片拥有2个基于CDNA 3架构的GCD，共80个计算单元，意味着有320个计算单元和20480个流处理器。出于良品率的考虑，AMD削减了部分计算单元，实际使用数量为304个计算单元和19456个流处理器。此外，HBM3容量达到192GB，提供了5.3TB/s的内存带宽和896GB/s的Infinity Fabric带宽。Instinct MI300A则是一款APU设计。其拥有24个基于Zen 4架构的内核，另外减少了1个计算芯片，使得计算单元数量也减至228个，对应14592个流处理器。

目前已经有不少大型云端服务器运营商采购Instinct MI300系列产品，有消息称，今年预计出货量为30万至40万，其中最大的客户是谷歌和微软，不过LaminiAI是首家确认已在使用Instinct MI300X计算卡的公司。