AMD 于 2024 年 10 月 11 日发布了最新的 Instinct MI325X 和 MI355X GPU 加速器，旨在挑战 Nvidia 在数据中心 GPU 市场的主导地位。Instinct 系列在内存容量和带宽方面具有优势，这使得其在加载和传输 AI 模型参数时更加高效。此外，AMD 计划通过其 ROCm 堆栈和 UALink 合作伙伴推出连贯的内存互连。
Instinct MI325X 配备了 256GB 的 HBM3E 内存，支持 6TBps 的带宽，提供比 Nvidia H200 GPU 高 1.8 倍的容量和 1.3 倍的带宽。MI355X 则进一步提升了性能，其内存带宽达到 8TB/s，比 MI325X 快 80%。
在数据中心 GPU 市场，AMD 与 Nvidia 的竞争日益激烈。AMD 的 Instinct 系列 GPU 在内存容量和带宽方面的优势，使其在 AI 模型训练和推理中表现良好。