 |
Supermicro 支持 AMD Instinct MI300 系列加速器，從而擴(kuò)展人工智能和 GPU 機(jī)架規(guī)模解決方案
由 AMD Instinct? MI300X 加速器提供支持的全新 8-GPU 系統(tǒng)現(xiàn)已推出，具備突破性的人工智能和 HPC 性能，可用于大規(guī)模人工智能培訓(xùn)和 LLM 部署
加利福尼亞州圣何塞2023年12月8日 /美通社/ -- Supermicro, Inc.（納斯達(dá)克股票代碼：SMCI）是一家為人工智能、云技術(shù)、存儲(chǔ)和 5G/邊緣提供全面 IT 解決方案的制造商，宣布推出三款基于 AMD 的全新 H13 代 GPU 服務(wù)器產(chǎn)品，這些經(jīng)過(guò)優(yōu)化的服務(wù)器，具備先進(jìn)性能且高效，并由全新的 AMD Instinct MI300 系列加速器提供支持。Supermicro 強(qiáng)大的機(jī)架規(guī)模解決方案配置 8-GPU 服務(wù)器和 AMD Instinct MI300X OAM，是大型模型訓(xùn)練的理想選擇。
現(xiàn)提供配備 AMD Instinct MI300A 加速處理單元 (APU) 加速器的新型 2U 液冷和 4U 風(fēng)冷服務(wù)器，可提高數(shù)據(jù)中心效率，并為人工智能、LLM 和 HPC 領(lǐng)域快速增長(zhǎng)的復(fù)雜需求提供動(dòng)力。新系統(tǒng)包含四個(gè)用于可擴(kuò)展應(yīng)用程序的 APU。Supermicro 可以為大規(guī)模環(huán)境提供完整的液冷機(jī)架，每個(gè)機(jī)架的 FP64 性能高達(dá) 1,728 TFlops。Supermicro 在全球擁有制造工廠(chǎng)，簡(jiǎn)化了新服務(wù)器的交付流程，以實(shí)現(xiàn)人工智能和 HPC 的融合。
Supermicro 總裁兼首席執(zhí)行官 Charles Liang 表示："我們非常高興能夠利用最新一代 AMD Instinct 加速器擴(kuò)展我們用于人工智能培訓(xùn)的機(jī)架規(guī)模全面 IT 解決方案，與前幾代產(chǎn)品相比，性能提升高達(dá) 3.4 倍。我們?nèi)蛑圃旃S(chǎng)每月可供應(yīng) 4,000 個(gè)液冷機(jī)架，因此可以憑借 AMD Instinct MI300X 加速器或 AMD Instinct MI300A APU 提供最新的 H13 GPU 解決方案。我們的架構(gòu)久經(jīng)考驗(yàn)，能夠?yàn)槊總€(gè) GPU 提供 1:1 的 400G 網(wǎng)絡(luò)，這些 GPU 專(zhuān)為大規(guī)模人工智能和超級(jí)計(jì)算集群設(shè)計(jì)，能夠完全集成液冷解決方案，為客戶(hù)提供兼?zhèn)湫阅苄实母?jìng)爭(zhēng)優(yōu)勢(shì)，并且易于部署。"
了解更多有關(guān)配備 AMD 加速器的 Supermicro 服務(wù)器信息
LLM 優(yōu)化的 AS – 8125GS-TNMR2 系統(tǒng)基于 Supermicro 的構(gòu)建塊架構(gòu)，是一種經(jīng)驗(yàn)證的設(shè)計(jì)，可用于以風(fēng)冷和液冷機(jī)架規(guī)模設(shè)計(jì)的高性能人工智能系統(tǒng)。平衡的系統(tǒng)設(shè)計(jì)將 GPU 與 1:1 網(wǎng)絡(luò)相關(guān)聯(lián)，從而形成跨節(jié)點(diǎn)和機(jī)架的大型高帶寬內(nèi)存池，以適應(yīng)當(dāng)今最大的語(yǔ)言模型，參數(shù)高達(dá)數(shù)萬(wàn)億，最大限度地提高并行計(jì)算并最大限度地減少訓(xùn)練時(shí)間和推理延遲。配備 MI300X OAM 加速器的 8U 系統(tǒng)借助 AMD Infinity Fabric?Links 提供 8-GPU 的原始加速能力，可在開(kāi)放標(biāo)準(zhǔn)平臺(tái)上可實(shí)現(xiàn)高達(dá) 896GB/s 的峰值理論 P2P I/O 帶寬，且在單個(gè)系統(tǒng)中具有 1.5TB 的 HBM3 GPU 內(nèi)存，在業(yè)界遙遙領(lǐng)先，還支持原生稀疏矩陣，旨在節(jié)省功耗、降低計(jì)算周期并減少人工智能工作負(fù)載的內(nèi)存使用。各服務(wù)器采用雙插槽 AMD EPYC?9004 系列處理器，最高可達(dá) 256 核。在機(jī)架規(guī)模上，超過(guò) 1000 個(gè)內(nèi)核的 CPU、24TB 的 DDR5 內(nèi)存、6.144TB 的 HBM3 內(nèi)存以及 9728 個(gè)計(jì)算單元可用于最復(fù)雜的人工智能環(huán)境。Supermicro 在 8U 配置方面擁有豐富經(jīng)驗(yàn)，并使用 OCP 加速器模塊 (OAM)，相較于定制設(shè)計(jì)，可更快將配置完整的服務(wù)器推向市場(chǎng)，從而降低成本和減少交付時(shí)間。
Supermicro 還推出了一款密度優(yōu)化的 2U 液冷服務(wù)器 AS –2145GH-TNMR，以及一款 4U 風(fēng)冷服務(wù)器 AS –4145GH-TNMR，每臺(tái)服務(wù)器均配備 4 個(gè) AMD Instinct?MI300A 加速器。新服務(wù)器專(zhuān)為 HPC 和人工智能應(yīng)用設(shè)計(jì)，需要快速的 CPU - GPU 通信。通過(guò)在單個(gè)芯片上結(jié)合高性能的 AMD CPU、GPU 和 HBM3 內(nèi)存，APU 消除了冗余內(nèi)存副本。各服務(wù)器均配備用于應(yīng)用程序擴(kuò)展的先進(jìn) x86"Zen4"CPU 內(nèi)核。此外，各服務(wù)器包括的 HBM3 內(nèi)存高達(dá) 512GB。在一個(gè)由 21 個(gè) 2U 系統(tǒng)組成的全機(jī)架 (48U) 解決方案中，HBM3 可用內(nèi)存達(dá) 10TB 以上，還配備 19,152 個(gè)計(jì)算單元。從 HBM3 到 CPU 的內(nèi)存帶寬為 5.3 TB/s。
這兩個(gè)系統(tǒng)都具有支持 400G 以太網(wǎng)的雙 AIOM 和網(wǎng)絡(luò)擴(kuò)展選項(xiàng)，旨在提升高性能計(jì)算空間、可擴(kuò)展性和效率。2U 直接芯片液冷系統(tǒng)提供了出色的總體擁有成本 (TCO)，在 21 個(gè) 2U 系統(tǒng)機(jī)架解決方案的基礎(chǔ)上，每個(gè)機(jī)架產(chǎn)生 61,780 瓦能量，而不是 95,256 瓦風(fēng)冷機(jī)架，節(jié)能 35% 以上，并且與風(fēng)冷系統(tǒng)相比，風(fēng)扇數(shù)量減少 70%。
AMD 執(zhí)行副總裁兼數(shù)據(jù)中心解決方案事業(yè)部總經(jīng)理 Forrest Norrod 表示："AMD Instinct MI300 系列加速器在長(zhǎng)期加速高性能計(jì)算應(yīng)用和發(fā)展迅速的生成式人工智能需求方面都具有領(lǐng)先的性能。我們將繼續(xù)與 Supermicro 密切合作，以 MI300 系列加速器為基礎(chǔ)，利用 Supermicro 在系統(tǒng)和數(shù)據(jù)中心設(shè)計(jì)的專(zhuān)業(yè)知識(shí)，推動(dòng)領(lǐng)先的人工智能和 HPC 全面解決方案上市。"
向 Supermicro 和 AMD 專(zhuān)家了解更多信息。觀看網(wǎng)絡(luò)研討會(huì)直播或點(diǎn)播。
欲了解更多信息，請(qǐng)?jiān)L問(wèn)：
AS -8125GS-TNMR2 (8U w/ MI300x)
AS -2145GH-TNMR (2U LC w/ MI300A)
AS -4145GH-TNMR (4U AC w/ MI300A)
關(guān)于 Super Micro Computer, Inc.
Supermicro（納斯達(dá)克股票代碼：SMCI）是應(yīng)用優(yōu)化整體 IT 解決方案的全球領(lǐng)軍企業(yè)。Supermicro成立于加州圣何塞并在該地運(yùn)營(yíng)，致力于為企業(yè)、云計(jì)算、人工智能和 5G 電信/邊緣 IT 基礎(chǔ)設(shè)施提供率先面市的創(chuàng)新。我們是服務(wù)器、人工智能、存儲(chǔ)、物聯(lián)網(wǎng)、交換機(jī)系統(tǒng)、軟件和支持服務(wù)的整體 IT 解決方案制造商。Supermicro 的主板、電源和機(jī)箱設(shè)計(jì)專(zhuān)業(yè)知識(shí)，更進(jìn)一步推動(dòng)了我們的研發(fā)和生產(chǎn)，為我們的全球客戶(hù)提供了從云端到邊緣的下一代創(chuàng)新技術(shù)。我們的產(chǎn)品均在公司內(nèi)部（包括美國(guó)、亞洲和荷蘭）完成設(shè)計(jì)和制造，通過(guò)全球運(yùn)營(yíng)實(shí)現(xiàn)規(guī)模和效益，從而優(yōu)化總體擁有成本 (TCO)，并能夠（通過(guò)綠色計(jì)算）減少對(duì)環(huán)境的影響。獲獎(jiǎng)無(wú)數(shù)的 Server Building Block Solutions® 通過(guò)我們靈活可重復(fù)使用的構(gòu)建塊，為客戶(hù)提供了豐富的可選系統(tǒng)產(chǎn)品系列，用于優(yōu)化其確切的工作負(fù)載和應(yīng)用。這些構(gòu)建塊支持全系列外形規(guī)格、處理器、內(nèi)存、GPU、存儲(chǔ)、網(wǎng)絡(luò)、電源和冷卻解決方案（空調(diào)、自然空氣冷卻或液體冷卻）。
Supermicro、Server Building Block Solutions 和 We Keep IT Green 是 Supermicro Computer, Inc. 的商標(biāo)和/或注冊(cè)商標(biāo)。
AMD、AMD Arrow 標(biāo)識(shí)、AMD Instinct、EPYC 及其組合為 Advanced Micro Devices 的商標(biāo)。
所有其他品牌、名稱(chēng)和商標(biāo)均為其各自所有者所有。
