基于 arm 架构的 axion 主机处理器, 正在进一步拓展它在 tpu 产品组合中的应用范围。这种做法是为了给那些高需求的 ai 工作负载, 提供所需要的很高水平的性能以及能效表现。
Cloud这个平台现在正打算在它最新的TPU系统里面用上Axion处理器。Axion处理器是属于那种被定制过的CPU, 它是基于Arm注册商标的 ® 平台打造出来的。
随着那个叫作TPU 8i Max的设备给推出来, Axion这个CPU在它们的AI加速器里面负责主机计算方面的应用就会得到进一步的拓展。在前面已经出现过的情形里面, Axion已经在TPU 8t还有TPU 8i这两个地方承担了这种角色, 如今的情况就是要把这种作用再加大一点。
Axion提供了CPU算力作为基础, 它能够支持AI基础设施去应对大规模训练, 同时也能应对实时推理, 还要应对那些需求日益提高的智能体AI工作负载, 这算是一种挑战。
将扩展范围从Axion扩大到TPU 8i Max, 这是一个非常重要的里程碑。这个里程碑表明Arm在持续赋能下一代AI基础设施核心系统方面又推进了一步。
推动AI系统整体性能提升
人工智能的性能并不是说完全都由那个所谓的加速器去说了算, 其实中央处理器这一块也是很关键的, 因为它要负责把数据给准备好去, 还要去编排那些工作的负载, 同时还要运行一些基础性的设施软件, 这些软件是用来确保整个系统是能够高效率地运转起来的, 所以说随着现在那些智能体它们越来越频繁地进行推理的操作, 或者说越来越多的使用工具去处理事情, 以及要去协调各种相当复杂的那些任务, 那么对于中央处理器这一块在计算基础上所产生的需求呢, 也是正在不断地被提高的。
通过借助Axion这一工具, 我们能够把在高性能以及高能效方面所具备的优势内容, 和那些专门针对自身基础设施进行定制打造的芯片部件结合到一起, 并且把这种情况继续向TPU 8i Max这个方向去延伸扩大, 又一次明确地显示出将CPU和加速器进行协同设计这件事情, 对于推动AI实现规模化发展来说具有非常关键的重要意义。
在 Arm 平台上面, Axion CPU 是用于给 TPU 8t 以及 TPU 8i 和 TPU 8i Max 提供主机方面的运算力量的, 这个说法是能够成立的。
云人工智能与计算基础架构板块的副总裁, 同时兼任总经理职务的马尔克表示, 若要扩大规模以释放人工智能领域的性能表现, 就必须采取同步设计中央处理器以及加速器的做法, 让两者之间实现没有障碍的合作配合, 其中基于Arm体系结构的Axion式处理器这种产品型号, 完全有能力去满足那些对算力要求处于很高水平的人工智能专用芯片系统里的主机端工作任务在运行速度、能源使用效率以及灵活程度方面所提出的各项标准和要求。
通过 TPU 8i Max, 我们正在继续把这一协同设计的基础变得更大更稳, 以此来帮助我们那些正在使用最复杂的 AI 应用挑战的客户解决难题。
开启推理新时代
Cloud进行的持续资金投入, 反映出一个相当广泛的行业发展情况。这种情况是, 人们正在依靠CPU和加速器相互配合的方法, 去开启一个关于AI推理的全新时代内容。Axion除了可以为加速器提供属于主机的那部分计算服务以外, 它还能够为那些用于运行智能体运行时机制以及编排框架的通用云实例提供支持环境。
今年比较早的时候, Cloud 发布了 Axion N4A。这款产品在和同代、同级的 x86 虚拟机进行对比的话, 其性价比最高能够提升多达 2 倍。用户还能够在 Axion N4A 上面运行 GKE Agent。
这样做可以让客户对智能体 AI 工作负载实现安全隔离。并且, 这样做还能够把性价比再提升百分之三十。在这个基础之上, 那个叫做 Agent 的程序, 它是在 GKE 这个环境里边的, 它也是原生就支持那个 Axion 处理器的。
它是一种智能体的执行运行时的东西, 它是开源的, 而且它还预设了安全保护。那么, 它这个是旨在用来支持数百万个沙箱的运行, 其密度可以达到标准容器运行时的十倍。
Arm 正在助力打造下一代 AI 的计算基础。这包括驱动最新的 TPU 系统。这也包括支持数百万 AI 智能体进行规模化运行。
– 结束 –
