欢迎来车东西
登录
免费注册
我的订阅
关注我们
智东西
车东西
芯东西
智猩猩
AMD推出旗舰数据中心AI芯片MI300X
2023-12-07
芯东西
17
智东西12月7日消息,今天凌晨,芯片巨头AMD在Advancing AI活动上宣布推出旗舰数据中心AI芯片AMD Instinct MI300X GPU,并在多项硬件规格及大模型训推测试上与英伟达正面交锋。据介绍,MI300X在AI峰值性能、内存密度、内存带宽,这些关键硬件规格上均胜过英伟达旗舰AI芯片H100 GPU,能跑更大参数规模的大模型。
除了MI300X外,AMD还宣布推出结合最新AMD CDNA 3架构和“Zen 4”CPU的MI300A加速处理单元(APU),以及让笔记本电脑能够更轻松添加AI功能的Ryzen 8040系列移动处理器。此外,AMD剧透了Ryzen AI路线图,代号为“Strix Point”的下一代Ryzen AI CPU将在2024年出货,采用XDNA 2架构。XDNA 2架构的生成式AI NPU性能将提高到上一代的3倍以上。
软件方面,AMD发布了最新版本的ROCm 6开放软件堆栈,该堆栈针对生成式AI(尤其是大语言模型)进行了优化。相较MI250搭ROCm 5,MI300X与ROCm 6双强组合在Llama 2上生成文本的总体延迟性能提高了约8倍。与Ryzen 8040系列处理器同时登场的Ryzen AI 1.0软件栈,使开发者能够轻松部署使用预训练模型为Windows应用程序添加AI功能。
AMD