Supermicro推出可立即部署式液冷型AI数据中心
组合填料
发布日期:2024-06-15 09:06 点击次数:76
Supermicro, Inc.为AI、云计较、存储和5G/边际鸿沟的全主义IT管制有诡计制造商,推出可立即部署式液冷型AI数据中心。此数据中心专为云计较原生管制有诡计而联想,通过SuperCluster加快各界企业对生成式AI的哄骗,并针对NVIDIA AI Enterprise软件平台优化,适用于生成式AI实在立与部署。
通过Supermicro的4U液冷期间,NVIDIA近期推出的Blackwell GPU能在单一GPU上充分弘扬20 PetaFLOPS的AI性能,且与较早的GPU比拟,能提供4倍的AI考验性能与30倍的扩充性能,并简洁畸形本钱。
配合此领先上市的政策,Supermicro近期推出基于NVIDIA Blackwell架构的完善产物系列,撑抓新式NVIDIA HGXB100、B200和GB200 Grace Blackwell Superchip。
Supermicro总裁暨首席施行官梁见后暗意:“Supermicro在打造与部署具有机柜级液冷期间的AI管制有诡计方面抓续超越业界。数据中心的液冷设置联想可几近免费,并通过能抓续箝制用电量的上风为客户提供畸形价值。咱们的管制有诡计针对NVIDIA AI Enterprise软件优化,称心百行万企的客户需求,并提供寰宇限度级放纵的各人制造产能。
1U-MGX-Rack_front
因此咱们得以缩小委用时辰,更快提供搭配NVIDIA HGX H100和H200,以及行将推出的B100、B200和GB200管制有诡计的可立即使用型液冷或气冷运算集群。从液冷板到CDU乃至冷却塔,咱们的机柜级全主义液冷管制有诡计最大不错箝制数据中心40%的抓续用电量。”
在台北海外计较机展(COMPUTEX 2024)上,Supermicro展示了行将推出,并针对NVIDIA Blackwell GPU优化的系统,包括基于NVIDIA HGX B200的10U气冷系统和4U液冷系统。
4U-Delta-Next
此外,Supermicro也将提供8U气冷型NVIDIA HGX B100系统、NVIDIA GB200 NVL72机柜(具有72个通过NVIDIA NVLink交换机互联的GPU)与新式NVIDIA MGX系统(撑抓NVIDIA H200 NVL PCIe GPU与最新发布的NVIDIA GB200 NVL2架构)。
8U-Superblade-DLC
8U-Delta-Next
NVIDIA创办东谈主暨首席施行官黄仁勋暗意:“生成式AI正在鞭策扫数这个词运算堆栈的重置,新的数据中心将和会过GPU进走时算加快,并针对AI优化。Supermicro联想了顶尖的NVIDIA加快运算和汇聚管制有诡计,使价值数兆好意思元的大门户据中心大约针对AI期间优化。”
跟着大型话语模子(Large Language Model,LLM)的快速发展以及Meta的Llama-3和Mistral的Mixtral 8x22B等开源模子约束推出,企业更容易得到并使用现在最先进的AI模子。简化AI基础顺序并以最具本钱效益的步地提供走访才能,关于撑抓现时的快速AI变革至关迫切。
Supermicro云计较原生AI SuperCluster使即时走访的云计较便利性和可携性之间得以连结,并通过NVIDIA AI Enterprise让任何限度的AI名堂,从评估测试阶段顺畅地进行到骨子功课阶段。这提供了能在职何场地启动并安全管制数据的无邪性,包括自架系统或地端大型数据中心。
跟着各界企业快速进行生成式AI的实验性使用,Supermicro与NVIDIA密切谐和,确保完善且无邪地从AI应用的实验和评估试行鞭策至功课部署和大限度数据中心AI。此顺畅经过是借由NVIDIA AI Enterprise软件平台的机柜、集群级优化而竣事,能使从初步探索至可膨大AI落地的过程更剖释无阻。
托管劳动波及基础架构的聘请、数据分享和生成式AI政策管控。NVIDIA NIM微劳动行动NVIDIA AI Enterprise的一部分,可在无残障情况下提供托管生成式AI和开源部署上风。其多功能扩充启动环境通过微劳动,可加快从开源模子到NVIDIA基础模子等各样型生成式AI的部署。
此外,NVIDIA NeMo可竣事通过数据庋用、高端自订和检索增强生成(Retrieval-Augmented Generation,RAG)的定制模子确立,以竣事企业级管制有诡计。与搭配NVIDIA AI Enterprise的Supermicro SuperCluster集成后,NVIDIA NIM能为可膨大、加快型生成式AI功课的部署提供最快路线。
Supermicro现时的生成式AI SuperCluster产物包括:
Supermicro的SuperCluster撑抓NVIDIA AI Enterprise,其中包括NVIDIA NIM微劳动和NVIDIA NeMo平台,能竣事端对端生成式AI定制,并针对NVIDIA Quantum-2 InfiniBand以及具有每GPU 400Gb/s网速的新式NVIDIA Spectrum-X以太汇聚平台优化,可膨大到具畸形万个GPU的大型运算集群。
Supermicro行将推出的SuperCluster包括:
Supermicro的SuperCluster管制有诡计针对LLM考验、深度学习以及大限度与多数目扩充优化。Supermicro的L11和L12考证测试及现场部署劳动可为客户提供无缝顺畅体验。客户收到即插即用的可膨大单位后即可在数据中心放肆部署,进而更缓存得效益。