首页 数码 > 内容

IBM推出TelumII处理器和SpyreAI加速器8核主频5.5GHz配备360MB缓存

时间:2024-08-27 10:43:25 来源:
导读 TelumII处理器:具有八个高性能核心,运行频率为5.5GHz,每个核心具有36MB二级缓存,片上缓存容量增加40%,总计360MB。每个处理器抽屉的虚...

TelumII处理器:具有八个高性能核心,运行频率为5.5GHz,每个核心具有36MB二级缓存,片上缓存容量增加40%,总计360MB。每个处理器抽屉的虚拟四级缓存为2.88GB,比上一代增加了40%。集成的AI加速器可实现低延迟、高吞吐量的交易内AI推理,例如增强金融交易期间的欺诈检测,并使每个的计算能力比上一代提高了四倍。

新的I/O加速单元DPU集成到TelumII中。它旨在通过将I/O密度提高50%来改善数据处理。这一进步提高了IBMZ的整体效率和可扩展性,使其非常适合处理当今企业的大规模AI工作负载和数据密集型应用程序。

SpyreAccelerator:一款专门打造的企业级加速器,为复杂的AI模型和生成式AI用例提供可扩展功能,目前正在展示中。它具有高达1TB的内存,可在常规IO抽屉的八张卡上协同工作,以支持整个主机的AI模型工作负载,同时每张卡的功耗不超过75W。每个将有32个计算核心,支持int4、int8、fp8和fp16数据类型,适用于低延迟和高吞吐量AI应用程序。

从细节开始,我们首先要介绍的是IBMTelumII处理器,它由CPU核心、缓存、DPU和AI加速器组成。该本身基于三星5HPP节点,在600mm2的尺寸上集成了430亿个晶体管。

该CPU采用8核设计,频率最高可达5.5GHz,缓存增加,每个内核有36MBL2专用缓存,片上缓存增加40%,总池数达到360MB。该还具有每个处理器抽屉2.88GB(48.5ns延迟)的虚拟L4缓存,这也比第一代Telum增加了40%。IBM表示,这些新内核具有全新的分支预测改进,寄存器大小增加到160,整体尺寸减小了20%,功耗降低了15%。插槽性能提高了20%。

每个TelumII处理器都配备集成的AI加速器,可提供低延迟和高吞吐量AI推理性能。该加速器每提供24TOPS,每抽屉提供192TOPS,每系统提供768TOPS。其他新增功能包括集成到TelumII中的I/O加速单元DPU,可提高数据处理能力,I/O密度提高50%。DPU还将IO管理功耗降低70%。

IBM今天为其IBMZ大型机推出的第二款是SpyreAI加速器,它是一种企业级解决方案,提供300+TOPSAI性能,具有128GB的LPDDR5内存容量和8张卡上的1TB内存,可插入运行TelumII处理器的IBMZ大型机。

标签:
最新文章