仁寶GTC大會秀 Rubin解決方案 強攻 HGX 市場

仁寶(2324)在輝達(NVIDIA)GTC展會中秀Rubin平臺AI伺服器的HGX解決方案,並與輝達提出的「六款全新晶片、一部出色的AI超級電腦」Vera Rubin架構願景相呼應,展現仁寶在新世代AI超級運算基礎設施上的工程整備能力。

輝達Vera Rubin架構整合了Vera CPU、Rubin GPU、NVLink 6 Switch、BlueField-4 DPU、Spectrum-X Ethernet與ConnectX-9 SuperNIC,形成完整的異質運算架構。

透過NVLink 6交換技術,NVL72機櫃級配置可提供最高260 TB/s的總互連頻寬,並實現每顆GPU 3.6 TB/s的全互連頻寬(all-to-all bandwidth),可有效支援Mixture-of-Experts(MoE)模型與大規模AI訓練與推論工作負載。

此次仁寶推出的SG231-2-L1系統以HGX Rubin NVL8平臺設計,其核心技術亮點包括高密度加速架構(High-Density Accelerated Architecture),於2U機箱中整合8顆Rubin GPU,在有限機櫃空間內最大化運算密度與部署效率。

高效AI推論與訓練能力(Advanced AI Performance)系統最高可提供400 petaFLOPS(NVFP4)運算性能,可支援大型語言模型(LLM)訓練與推論、生成式 AI 與 HPC 應用場景。

高頻寬GPU互連(High-Bandwidth GPU Interconnect)採用NVLink 6技術,提供最高28.8 TB/s GPU-to-GPU互連頻寬,大幅提升多GPU協同運算與擴展效率。

可擴展記憶體架構(Scalable Memory Architecture)支援最高2.3TB GPU記憶體容量與176TB/s記憶體頻寬,可滿足記憶體密集型AI應用需求。 高功率密度液冷設計(High Power Density Liquid Cooling)、 機櫃級部署整備(Rack-Level Deployment Readiness)。