杭州2022年8月2日 /美通社/ -- 近日,中國信息通信研究院(以下簡稱"中國信通院")公布了第十四批大數(shù)據(jù)產(chǎn)品能力評測結(jié)果。大華股份大數(shù)據(jù)平臺,經(jīng)過評審專家資料審核、測試報(bào)告審核、質(zhì)詢與答疑、集中評議的層層專業(yè)評測,最終獲得中國信通院"可信大數(shù)據(jù)"評估評測證書,是業(yè)界首家通過中國信通院"分布式批處理大規(guī)模穩(wěn)定性"資質(zhì)認(rèn)證的產(chǎn)品。
評測過程中,大華大數(shù)據(jù)平臺在7048節(jié)點(diǎn)大集群規(guī)模下進(jìn)行測試,單次查詢10000億+條數(shù)據(jù),測試覆蓋17種常見業(yè)務(wù)場景,7x24小時(shí)持續(xù)觸發(fā)專項(xiàng)異常評測項(xiàng),業(yè)務(wù)穩(wěn)定運(yùn)行無中斷,系統(tǒng)可容忍CPU、磁盤、內(nèi)存、網(wǎng)絡(luò)等10大類異常情況,在持續(xù)異常測試中,業(yè)務(wù)查詢時(shí)間抖動<5%, 通過分布式批處理大規(guī)模穩(wěn)定性專項(xiàng)測試,顯示出大華大數(shù)據(jù)平臺具備解決大規(guī)模分布式系統(tǒng)擴(kuò)展、性能、容災(zāi)等穩(wěn)定性問題的能力。
同時(shí),大華大數(shù)據(jù)平臺憑借穩(wěn)定性評估的優(yōu)異表現(xiàn),獲得中國信通院云計(jì)算與大數(shù)據(jù)研究所的頒發(fā)的"穩(wěn)定性實(shí)踐先鋒"的授牌。
大華大數(shù)據(jù)平臺(HDP)定位于數(shù)據(jù)智能引擎的統(tǒng)一核心數(shù)據(jù)底座,基于云原生自主可信,提供包含海量視圖數(shù)據(jù)存儲、物聯(lián)感知數(shù)據(jù)離線批處理、視頻流任務(wù)實(shí)時(shí)分析能力等一站式智慧物聯(lián)大數(shù)據(jù)平臺能力,廣泛應(yīng)用于城市、交通、教育、能源、金融等行業(yè),賦能千行百業(yè)數(shù)智化轉(zhuǎn)型。大華大數(shù)據(jù)平臺,在計(jì)算和存儲的大規(guī)模技術(shù)能力已具備萬臺節(jié)點(diǎn)規(guī)模集群下長周期系統(tǒng)性穩(wěn)定運(yùn)行,全流程打通實(shí)現(xiàn)yarn on k8s,支持動態(tài)資源彈性擴(kuò)縮,讓業(yè)務(wù)更敏捷,讓計(jì)算更高效,實(shí)現(xiàn)普惠數(shù)據(jù)價(jià)值。其具有如下優(yōu)勢:
擁抱開源,降低使用門檻
基于業(yè)界主流開源技術(shù),大華大數(shù)據(jù)平臺經(jīng)過深度自研,平臺全面兼容Hadoop2.X/3.X,并涵蓋Hdfs、Yarn、Hbase、Hive、ZooKeeper、Spark等20+個組件,為客戶提供高性能、低成本、靈活易用的全棧大數(shù)據(jù)平臺。
融入云原生,優(yōu)化資源效能
平臺基于k8s基本架構(gòu),對全局資源進(jìn)行監(jiān)控、運(yùn)維、分析,從而更合理與充分利用集群計(jì)算資源。平臺全流程打通實(shí)現(xiàn)yarn on k8s,支持動態(tài)資源擴(kuò)縮,讓資源調(diào)度計(jì)算更加高效。
異構(gòu)融合,挖掘數(shù)據(jù)價(jià)值
平臺將視頻圖像分為非結(jié)構(gòu)化數(shù)據(jù)和結(jié)構(gòu)化數(shù)據(jù),采用統(tǒng)一元數(shù)據(jù)管理,構(gòu)建邏輯數(shù)據(jù)湖,在數(shù)據(jù)不入湖的前提下,實(shí)現(xiàn)跨多種數(shù)據(jù)源的聯(lián)合查詢計(jì)算,并支持對接多種計(jì)算引擎,打破數(shù)據(jù)孤島,進(jìn)一步挖掘業(yè)務(wù)價(jià)值?;诋悩?gòu)計(jì)算框架,貫通數(shù)據(jù)融合存儲統(tǒng)一應(yīng)用,結(jié)合智能計(jì)算和數(shù)據(jù)計(jì)算構(gòu)建業(yè)務(wù)模型,讓數(shù)據(jù)計(jì)算創(chuàng)造價(jià)值,輔助業(yè)務(wù)向縱深發(fā)展。
智能計(jì)算框架,提升計(jì)算性能
平臺提供離線,實(shí)時(shí)、流式等多種計(jì)算框架,支持行業(yè)大規(guī)模節(jié)點(diǎn)高復(fù)雜業(yè)務(wù)計(jì)算場景閉環(huán),兼顧數(shù)據(jù)大規(guī)模以及實(shí)時(shí)性,提升數(shù)據(jù)計(jì)算效率,使得數(shù)據(jù)分析結(jié)果可以更高效迅速的展現(xiàn)出來。計(jì)算框架深度融合GPU能力調(diào)度計(jì)算,AI診斷流式/批處理任務(wù)業(yè)務(wù),提升任務(wù)最優(yōu)資源參數(shù),數(shù)據(jù)庫執(zhí)行性能全面提升。
多重機(jī)制,保障數(shù)據(jù)安全
管理平臺集成kerberos與ranger組件,保障集群環(huán)境認(rèn)證統(tǒng)一及用戶權(quán)限精細(xì),SQL任務(wù)權(quán)限管理精細(xì)可控,提升數(shù)據(jù)安全可信可靠。此外,平臺從冗余結(jié)構(gòu)、數(shù)據(jù)備份、故障預(yù)警等方面考慮,健全完善多層級容災(zāi)系統(tǒng)結(jié)構(gòu)設(shè)計(jì),提高數(shù)據(jù)的持續(xù)可用性,保障平臺穩(wěn)定運(yùn)行。
圍繞"Dahua Think# 云聯(lián)萬物 數(shù)智未來"戰(zhàn)略,大華股份將"以數(shù)據(jù)為基礎(chǔ),以業(yè)務(wù)為牽引",依托自身大數(shù)據(jù)能力和技術(shù)優(yōu)勢,結(jié)合千行百業(yè)數(shù)智解決方案業(yè)務(wù)沉淀,持續(xù)聚焦數(shù)據(jù)智能能力建設(shè)和數(shù)據(jù)安全隱私保護(hù),積極推動大數(shù)據(jù)技術(shù)與實(shí)體經(jīng)濟(jì)深度融合,讓數(shù)據(jù)驅(qū)動業(yè)務(wù)創(chuàng)新,賦能千行百業(yè)數(shù)智化轉(zhuǎn)型。