微软成AMD AI GPU最大买家 定价是H100四分之一

AMD在2023年12月6日举办了主题为“Advancing AI”的活动，推出了新一代针对数据中心的Instinct MI300系列计算卡。其中Instinct MI300X为纯GPU设计，采用了CDNA 3架构，可为HPC和AI工作负载提供突破性的性能。

据Seeking Alpha报道，根据花旗集团的分析报告，显示微软的数据中心部门是Instinct MI300X的最大买家，已开始为GPT-4这类大型语言模型（LLM）工作。此前AMD首席执行官苏姿丰博士表示，AMD在2024年AI芯片的销售额预计将达到35亿美元，高于之前20亿美元的预期。

虽然AMD没有公开Instinct MI300X的定价，不过有知情人士透露，每块计算卡的售价为1.5万美元，相比于英伟达的产品是比较实惠的。目前H100 PCIe 80GB HBM2E版本在市场上的售价大概为3万美元到4万美元，甚至更高一些，而性能更强的H100 SXM5 80GB HBM3版本的定价则更高。花旗集团的分析师表示，Instinct MI300X的定价或仅为后者的四分之一。此前AMD首席执行官苏姿丰博士表示，AMD在2024年AI芯片的销售额预计将达到35亿美元，高于之前20亿美元的预期。

Instinct MI300X采用了小芯片设计，混用5nm和6nm工艺，晶体管数量达到了1530亿个。其使用了第四代Infinity Fabric解决方案，共有28个模块芯片，其中包括8个HBM和4个计算芯片，而每个计算芯片拥有2个基于CDNA 3架构的GCD，共80个计算单元，意味着有320个计算单元和20480个流处理器。出于良品率的考虑，AMD削减了部分计算单元，实际使用数量为304个计算单元和19456个流处理器。此外，HBM3容量达到192GB，提供了5.3TB/s的内存带宽和896GB/s的Infinity Fabric带宽。