异构AI系统领先供应商I/ONX High Performance Compute (HPC) 今日宣布正式面向全球发布高密度平台Symphony SixtyFour。该平台旨在大幅缩减AI推理和微调基础架构的物理占用空间及经济成本。I/ONX在单个节点上支持多达64个加速器，消除了冗余的“主机税”——即在电力、硬件和许可方面产生的巨额支出，这些开销会对企业AI的投资回报率产生负面影响。 

尽管推理目前占企业AI工作负载的90%，但企业目前仍完全受限于在训练硬件平台上部署推理任务。Symphony SixtyFour在降低推理和微调工作负载的资本支出（CapEx）和运营支出（OpEx）方面具有显著优势。在训练对比中，I/ONX系统消除了30kW“主机税”（通常被浪费在多节点集群中冗余的CPU、内存和支持硬件上），并简化了日常维护任务。对于基于替代型加速器的生产级推理，该平台更具变革性：功耗仅为传统 64 节点集群的四分之一，在仅进行推理计算时，完全无需液冷系统。

I/ONX首席执行官Justyn Hornor表示：“企业级AI基础架构正迈入新的成熟阶段。过去以训练为中心的架构设计在实验阶段表现出色，但并未针对当今受功耗限制、工作量巨大的现实应用环境进行优化。借助Symphony SixtyFour，我们重新构想了整个技术栈，使其更加灵活，并且更加针对具体应用，不仅能帮助企业驾驭大规模推理任务，还能彻底消除那些阻碍投资回报率（ROI）的冗余基础设施浪费。”

Symphony SixtyFour优势：专为特定用途设计的芯片。该平台旨在为企业AI实现单位功耗和支出的最大效益。

• 消除训练“主机税”：对于大规模推理和微调任务，Symphony SixtyFour将基础设施堆栈从八个节点整合为一个。这种整合可减少多达30kW的冗余支持功耗，从而在现有功耗预算内实现更高的计算密度。
• 零跳变、近确定性性能：Symphony SixtyFour在单个操作系统实例内容纳64个加速器， 彻底消除了东西向网络延迟。
• 异构灵活性：Symphony SixtyFour完全不依赖特定供应商，专为混合模式运行而设计。企业可以无缝地将高端GPU（包括AMD/NVIDIA）与更具针对性的低功耗协处理器搭配使用，并集成专门的推理芯片（如Axelera、FuriosaAI、Tenstorrent），从而让基础架构能够适应未来市场动态的变化。
• 通过简化主机开销来降低运营支出：除了硬件和性能之外，Symphony SixtyFour还能大幅减轻运维负担。通过在单一管理环境中统一管理64台设备，I/ONX消除了软件费用，使企业每年最高可节省50万美元（每集群的企业级操作系统和协调许可）。

I/ONX加速企业向大规模推理和微调专用系统的转型。Symphony SixtyFour现已上市，帮助企业释放关键的电力容量并降低成本。I/ONX致力于提供高密度基础架构，以充分释放生产级AI的经济和运营潜力。

关于I/ONX

I/ONX High Performance Compute（HPC）是异构AI基础架构的先驱，通过消除传统架构中的“主机税”，正在重新定义人工智能的生命周期。I/ONX的旗舰产品Symphony SixtyFour将多达64个加速器整合到单个节点中，将机架级总拥有成本 (TCO) 降低了50% 以上。通过大幅降低功耗并最大化硬件利用率，I/ONX使企业能够以前所未有的效率实现生产级AI，并更快地获得投资回报。

CI/ONX 推出Symphony SixtyFour：消除“主机税”，节省30-50% AI基础架构成本。