大模型非GPU专属 AMD EPYC秀出CPU AI实力
集微网报道 12月6日,AMD在美国加州城市圣何塞举行的“Advancing AI”活动上,宣布推出包括MI300,Ryzen AI PC处理器等系列创新产品。作为AMD未来发展的重中之重,AMD正试图将AI能力贯穿至所有产品线,从数据中心的大规模训练与推理解决方案,到面向消费者的PC及游戏体验等。
在高性能计算(HPC)以及数据中心等领域,AMD正在展示其持续的领导地位。AMD EPYC处理器和AMD Instinct加速器仍然是世界上许多最创新、最节能和最快的超级计算机的首选解决方案。
根据第62届全球超级计算机排行榜TOP500显示,在全部500套超算中,其中的140台超级计算机为AMD平台,同比增长39%。此外,根据最新的Green500名单,AMD为世界上十大最节能的超级计算机中的八台提供动力。
目前,美国橡树岭国家实验室的前沿超级计算机正是由AMD EPYC处理器和Instinct加速器驱动,此外,超大规模超级计算机El Capitan已经在劳伦斯利弗莫尔国家实验室开始安装。
今日,AMD宣布推出了全齐首款面向AI/HPC的数据中心APU——MI300A,同时将Zen3 CPU、CDNA3 GPU整合在了一颗芯片之内,统一使用HBM3内存,使用第4代Infinity Fabric高速总线互联,从而实现结构的简化以及编程的便利性。
据AMD方面介绍,统一架构下的APU的优势在与能够充分释放性能的潜力。统一的内存,统一的内存,共享的Infinity总线技术,动态的功耗分布以及编程上的便利等。
基于以上优势,在OpenFOAM的运行表现上,MI300A的性能表现要超过H100 4倍。PeakHPC每瓦性能表现上是GH200的2倍。
在HPC等性能表现上也同H100持平或领先。在MI300A的加持下,El Capitan有望成为全球首个具备2 Exaflop(百亿亿次)双精度性能的超级计算机,预计交付后将成为世界上最快的超级计算机。
此外,EPYC本身也能够具备强大的AI能力。在今年6月份举办的“数据中心与AI技术首映”上,AMD针对云原生负载进行了优化,带来了以吞吐量为导向,拥有最高终端密度和效率的AMD EPYC 9704处理器“Bergamo”,以及面向技术计算领域的Genoa-X。其中,Genoa-X的亮点包括领先的5nm工艺节点技术、高达96个高性能Zen4核心、高达1.1GB的L3 Cache,兼容SP5插槽等,可以在Ansys CFX中每天完成更多的设计任务,从而大幅加速产品开发。
在今日活动的演示现场,记者看到采用 AMD EPYC 9654处理器运行Llama 2大语言模型的展示,在同竞品Xeon Platinum 8480的对比中,处理运行速度提升36%。这意味着,在某些场景下,依靠CPU提供的AI算力也能够进行大模型处理,而非仅依靠GPU,这对于具有较少GPU资源的企业而言非常具有吸引力,也带来了成本上的节省。
内容转载于集微网
-
1
天士力努力创造更好的治疗技术和产品
2024-04-19
-
2
聚力前行 多位专家学者齐聚清华研讨本色文化
2024-04-16
-
3
全媒社携手澳大利亚城市明星网红,打造最新合作计划
2024-04-15
-
4
春游江淮丨凭演唱会门票免费游——桃花潭,第三波!
2024-04-09
-
5
广东国锟黄金:助力女性创业,为促进世界黄金产业健康发展贡献企业力量
2024-04-07
-
6
全国都好用的“通勤模式”首发上线,智己IMOS2.7.0正式版踏春而来
2024-04-03