AMD在2023年12月6日举办了主题为“Advancing AI”的活动,推出了新一代针对数据中心的Instinct MI300系列计算卡。首批提供了两款产品,分别是Instinct MI300A(CPU+GPU)和Instinct MI300X(纯GPU),结合了最新的CDNA 3架构和Zen 4架构,可为HPC和AI工作负载提供突破性的性能。
近日有AMD的客户确认,已经收到了Instinct MI300X,并开始为企业运行大型语言模型(LLM),进行相关的验证工作。据Wccftech报道,AMD这次的新款GPU成功引起了市场的关注,在计算加速卡领域似乎要强势回归,竞争对手的客户里,不少都对Instinct MI300X产生了兴趣。
Instinct MI300X巨大的性能提升是一方面,另外AMD选择的新品发布时间十分完美,恰逢英伟达被海量积压订单困扰,阻碍了新客户的增长,也给了AMD更多的机会。人工智能市场预计在未来几年内迅速增长,市场规模到2027年将增至4000亿美元,AMD首席执行官苏姿丰将其归为科技行业下一个大事件,正在为这一巨大增长做好准备。
Instinct MI300X采用了小芯片设计,混用5nm和6nm工艺,晶体管数量达到了1530亿个。其使用了第四代Infinity Fabric解决方案,共有28个模块芯片,其中包括8个HBM和4个计算芯片,而每个计算芯片拥有2个基于CDNA 3架构的GCD,共80个计算单元,也就是320个计算单元和20480个流处理器。出于良品率的考虑,AMD削减了部分计算单元,实际使用数量为304个计算单元和19456个流处理器。此外,HBM3容量达到192GB,提供了5.3TB/s的内存带宽和896GB/s的Infinity Fabric带宽。