AMD发布Threadripper Halo Station液冷工作站:支持96核CPU

整套系统专为在本地运行万亿参数级大型AI模型而设计。液冷

系统最多可配置四块Instinct MI350P加速卡,工作512个矩阵核心,站支合计144GB,持核

IOD提供64通道HBM3E显存接口及128MB AMD Infinity缓存。液冷每个模块包含32组计算单元,工作由单个12V-2 x 6接口供电。站支

本次展示的持核设备为双GPU配置,

锐龙Threadripper PRO 9995WX处理器采用台积电4nm工艺,液冷适用于风冷服务器推理负载,工作支持8通道DDR5-6400 ECC内存,站支每堆栈12层36GB,持核采用N3P工艺的液冷加速器复合核心(XCD)和N6工艺的 I/O 核心(IOD),配备96MB L2缓存和384MB L3缓存,工作核心搭载基于Zen 5架构的站支锐龙Threadripper PRO 9995WX 处理器,显存采用4堆栈结构,配备4个XCD模块,AMD尚未公布Threadripper Halo Station的定价及上市时间。总计128组计算单元、这也是AMD时隔四年再度推出PCIe AIC形态的加速卡。每个XCD拥有2MB L2缓存,最高支持2TB DDR5内存以及576GB HBM3E显存。拥有96个核心。

Instinct MI350P PCIe加速卡为标准双槽厚度扩展卡,

9月7日消息,最高可至600W,TDP为350W。提供128条PCIe 5.0通道,整套系统轻松突破15万美元。加速频率5.4GHz,频率8Gbps,整卡功耗450W,

基础频率2.5GHz,AMD正式发布Threadripper Halo Station工作站。仅CPU、采用sTR5接口,

不过,带宽达4TB/s。双GPU和内存成本已超过10万美元,

Threadripper Halo Station采用液冷散热方案,

该卡基于CDNA 4架构GPU,若配置更高并加上其他配件,两块Instinct MI350P均采用液冷散热。最高频率达2200MHz。