北京2021年9月23日 /美通社/ -- 9月23日，全球權威AI基準評測MLPerf?公布最新榜單Inference(推理) V1.1，在最受關注的固定任務(Closed)測試中，浪潮獲得15項冠軍，占據冠軍榜單半壁江山，蟬聯四屆MLPerf? AI基準測試冠軍榜首。
MLPerf?是影響力極為廣泛的國際AI性能基準評測，由圖靈獎得主大衛(wèi)?帕特森（David Patterson）聯合頂尖學術機構發(fā)起成立。2020年，非盈利性機器學習開放組織MLCommons基于MLPerf?基準測試成立，其成員包括谷歌、Facebook、英偉達、英特爾、浪潮、哈佛大學、斯坦福大學、加州大學伯克利分校等50余家全球AI領軍企業(yè)及頂尖學術機構，致力于推進機器學習和人工智能標準及衡量指標。目前，MLCommons每年組織2次MLPerf? AI訓練性能測試和2次MLPerf? AI推理性能測試，為用戶衡量設備性能提供權威有效的數據指導。
MLPerf?推理V1.1 AI基準測試固定任務(Closed)包括數據中心(共16個項目)和邊緣(共14個項目)兩大場景。在數據中心場景下設置6個模型，分別是圖像識別（ResNet50）、醫(yī)學影像分割（3D-UNet）、目標物體檢測（SSD-ResNet34）、語音識別（RNN-T）、自然語言理解（BERT）以及智能推薦（DLRM），其中Bert、DLRM和3D-Unet設有高精度（99.9%）模式。除3D-UNet模型任務只考察Offline離線推理場景性能外，其他模型任務按照Server在線推理和Offline離線推理兩種應用場景分別進行性能測試。邊緣場景AI模型在數據中心場景的6個模型基礎上刪減了智能推薦（DLRM）模型，并增加目標物體檢測（SSD-MobileNet）模型，所有模型均有Offline離線推理場景和SingleStream單流推理兩個場景。
固定任務(Closed)要求參賽各方使用相同模型和優(yōu)化器，這對于實際用戶評測AI計算系統性能具備很強的參考意義，也一直是MLPerf?中角逐最激烈及主流廠商最關注的領域。此次共有英偉達、英特爾、浪潮、高通、阿里巴巴、戴爾、HPE等19家廠商參與到固定任務(Closed)測試競賽中，其中數據中心場景收到了754項成績提交，邊緣場景收到了448項成績提交，共1199項成績提交。
浪潮全棧AI能力助推性能持續(xù)突破
浪潮取得此次MLPerf?競賽佳績的三款AI服務器，分別是NF5488A5、NF5688M6及NE5260M5。NF5488A5是全球首批上市的A100服務器，在4U空間支持8顆第三代NVlink互聯的A100 GPU和2顆AMD Milan CPU，同時支持液冷和風冷散熱技術。NF5688M6是面向大規(guī)模數據中心優(yōu)化設計的具備極致擴展能力的AI服務器，支持8顆A100 GPU和兩顆Intel Icelake CPU，支持多達13張PCIe Gen4的IO擴展卡。NE5260M5通過極致優(yōu)化的信號和電源等系統設計，兼容高性能CPU和多種AI加速卡，通過減震降噪優(yōu)化和嚴苛的可靠性測試，機箱深度430mm較普通服務器縮短近二分之一，滿足空間受限的邊緣計算場景部署需求。
浪潮在本次MLPerf?競賽獲得15項全球第一，涵蓋醫(yī)學影像識別、自然語義理解、圖像識別、語音識別、智能推薦、目標物體檢測（SSD-ResNet34）以及目標物體檢測（SSD-MobileNet）全部7項AI模型任務，從云到邊全面領先。浪潮持續(xù)提升數據中心場景下MLPerf?各項任務性能成績，即便在相同服務器配置下各項任務成績依然得到較大改善，如圖像識別(ResNet50)和語音識別(RNN-T)的模型性能分別較半年前的V1.0競賽成績提升了4.75%和3.83%。
浪潮AI服務器在MLPerf?基準評測中的出色表現，得益于浪潮在AI計算系統卓越的系統設計能力和全棧優(yōu)化能力。在硬件層面，通過對CPU、GPU硬件性能的精細校準和全面優(yōu)化，使CPU性能、GPU性能、CPU與GPU之間的數據通路均處于對AI推理最優(yōu)狀態(tài)；在軟件層面，結合GPU硬件拓撲對多GPU的輪詢調度優(yōu)化使單卡至多卡性能達到了近似線性擴展；在深度學習算法層面，結合GPU Tensor Core 單元的計算特征，通過自研通道壓縮算法成功實現了模型的極致性能優(yōu)化。
浪潮NF5488A5是本次MLPerf?競賽中唯一實現以液冷方式支持8顆500W A100 GPU的AI服務器，液冷散熱為AI計算性能提升注入了強勁動力。而在本次MLPerf?競賽所有配置8顆A100 SXM4芯片的主流高端AI服務器中，浪潮獲得了數據中心場景固定任務下全部16項任務的最佳成績。
浪潮是全球領先的AI計算領導廠商，AI服務器市場份額全球第一，連續(xù)四年以超50%的市場份額居中國AI服務器市場第一。浪潮致力于AI計算平臺、資源平臺和算法平臺的研發(fā)創(chuàng)新，并通過元腦生態(tài)與AI領先企業(yè)共同推進AI產業(yè)化和產業(yè)AI化進程。
