再创纪录！Ampere推出192自研核云原生服务器CPU

经过多年生态建设，Arm服务器CPU市场已经越来越繁荣，前有亚马逊、Marvell基于Arm架构应用于云端，后有华为海思、平头哥基于Arm推出数据中心服务器，近一两年，更是有不少顺应芯片创业潮而生的Arm服务器CPU初创公司，遇贤微、鸿钧微电子都包括在内……

近日，专注Arm云原生服务器CPU的Ampere Computing在2023年度战略和产品路线图更新分享中表示，Ampere推出了全新的AmpereOne系列处理器，基于5nm工艺节点制造，拥有多达192个单线程Ampere核，再一次创造业内最高核心记录。

这一核心数量远远超过英特尔和AMD服务器CPU的核心数，如果放在一个具体的场景中，在云环境中运行虚拟机（VM），将192核的AmpereOne、96核的AMD Genoa、60核的英特尔Sapphire Rapids进行对比，AmpereOne每机架运行的虚拟机数量是AMD Genoa的2.9倍，是英特尔Sapphire Rapids的4.3倍。

“AmpereOne现已投产并交付给客户，AmpereOne能够为云工作负载提供更高的性能、更高的可扩展性以及更高的密度，这是第一款基于Ampere新自研核的产品。”Ampere Computing首席产品官Jeff Wittich说到。

192自研核再创纪录，针对更大规模数据中心

Ampere发展至今已经有将近6年历史，此前的两年，已经推出了几款不同的产品，核数从32核到128核不等，今年又将核数进一步提升，最高可达192核，对比隔壁X86阵营的英特尔至强开始强调“多放10 个核数，不如多放一个加速器”，Ampere的产品升级似乎执着于核心数的提升。

这对数据中心市场而言意味着什么？

”全新推出的AmpereOne系列处理器并不是要取代Ampere Altra系列，而是在它原本的基础之上进行持续扩张。我们的出发点是希望能够满足不同客户的不同需求。”Jeff Wittich说到。

AmpereOne系列处理器因为拥有更高的核数，不仅在计算性能上有所扩展，还扩展了内存容量、带宽和IO带宽，采用了PCIe 5.0 和 DDR5。这些新增的功能主要是为对算力有更高需求的用户提供服务，主要针对大规模的数据中心，而对于边缘计算场景，只需要部署32核、功耗40瓦的Ampere Altra处理器就能满足需求。

另外，考虑到生成式AI算力需求爆发，提升对AI工作负载需求是此次AmpereOne升级的重点。

三年前，Ampere收购了专注于创建AI软件的OnSpecta公司，通过创建AI软件助力硬件在AI负载之下运行更快，过去几年，Ampere的AI团队也已经建立了形成标准框架的Libraries，能够更高性地运行Ampere Altra。

而Ampere提供的产品，非常适合AI推理，特别是大规模的云推理，目前已经有不少客户在使用Ampere提供的处理器进行AI推理工作负载，比如Matoha，其鉴别特定材料的应用程序模型就在Ampere上运行，用以鉴别玻璃、金属或织物以实现便捷回收。

Ampere提供的测试数据显示，相比AMD Genoa，AmpereOne可每秒多提供2.3倍的帧数（图像），在运行稳定的扩散模型中胜出。此外在运行DLRM模型的推荐系统中，通过AmpereOne响应的查询数量是AMD Genoa的每秒查询数量的两倍多。

值得注意的是，通过Ampere云原生处理器进行AI推理，不仅能打破效率瓶颈，也可以解决云服务提供商（CSPs）的行业痛点——使用GPU实现AI推理所产生的高能耗，以及容量扩展和可部署的服务器数量都会受到制约。

采用Chiplet设计，解决内存不均衡问题

为避免内存墙问题更加严重，除了拥有高达192个内核，AmpereOne还拥有128通道的PCIe  Gen5和8通道的DDR5，以此提升内存带宽，获得更高的内存速度。

值得注意的是，AmpereOne还大量采用了Chiplet设计，以解决内存不均衡的问题。

”我们在Chiplet设计中实现了特定的拓扑结构以及单一的计算裸片，同时还有单一大网格结构，这样可以助力我们为客户提供平衡的高性能。反之，其他设计则要求从一个计算的小芯片传输到另一个小芯片，这种设计则会带来延迟问题。”Jeff Wittich解释道。

也就是说，AmpereOne采用的是一个大的计算Chiplet被数个控制Chiplet包围的设计方式，且64MB的System Level Cache（系统级缓存）被放在计算芯片上，这样能够轻易实现内存到内存的访问，同时避免造成访问时间和系统级缓存之间的不平衡，不需要为处理器引入额外的HOPs。

那么，采用了Chiplet设计和自研核心的AmpereOne是否会出现与过去Neoverse核心的Ampere Altra处理器不兼容的问题？

Jeff Wittich表示，因为AmpereOne系列处理器和Ampere Altra系列处理器都是基于ARM ISA的，所以所有能够在Ampere Altra系列处理器上运行的代码，在全新的AmpereOne系列处理器上也能运行，不需要做任何改动。

Ampere针对云原生研发的Arm服务器CPU，已经再次证明了Arm ISA在数据中心的潜力。不过面对X86在数据中心建立起的生态，为云原生而生的Ampere还有很长的路要走。

Ampere也表示，Ampere有许多目标，用某个单独的目标并不足以概括，其中的一个目标是希望继续扩展生态合作，让Ampere的产品面向更多的用户，触手可及。