AI+如何應(yīng)用落地？一場(chǎng)來(lái)自產(chǎn)業(yè)鏈領(lǐng)軍者的對(duì)話(huà)碰撞

拓爾思董事長(zhǎng) 施水才：

大模型的落地需要三個(gè)"實(shí)"，實(shí)在、實(shí)用和實(shí)效。實(shí)在是指 AI落地的時(shí)候工程化交付；實(shí)用是和用戶(hù)的業(yè)務(wù)吻合；實(shí)效是需要降本增效。

榮聯(lián)科技首席科學(xué)家 王向東：

只解決了算力的調(diào)度問(wèn)題是不行的，面對(duì)生物醫(yī)療、生命科學(xué)等領(lǐng)域高算力、海量數(shù)據(jù)的存儲(chǔ)及管理需求，必須與生態(tài)伙伴協(xié)同才能滿(mǎn)足客戶(hù)要求。

潞晨科技創(chuàng)始人兼董事長(zhǎng) 尤洋：

通過(guò)極致的算力軟件和內(nèi)存優(yōu)化來(lái)提升算力的附加值，用同樣的設(shè)備訓(xùn)出更大的模型，幫助企業(yè)盡可能降低關(guān)鍵領(lǐng)域大模型的門(mén)檻。

銜遠(yuǎn)科技COO、創(chuàng)始合伙人 王曉波：

對(duì)于技術(shù)的商業(yè)化路徑，我們傾向于先改變模式，利用行業(yè)認(rèn)知和模型能力選擇一個(gè)閉環(huán)場(chǎng)景，形成數(shù)據(jù)飛輪，不斷打磨自己的模型和產(chǎn)品，與客戶(hù)一起成長(zhǎng)。

浪潮信息高級(jí)副總裁 劉軍：

針對(duì)算力多元化、模型多樣化及場(chǎng)景多樣化，浪潮信息希望連接和聚集生態(tài)力量，助力每個(gè)元腦生態(tài)伙伴利用自身場(chǎng)景和數(shù)據(jù)，通過(guò)企業(yè)大模型開(kāi)發(fā)平臺(tái)先行先試，有了錘子再去找釘子，快速入局AI+市場(chǎng)。

IPF2024，你怎么看？

浪潮信息陳昌浩：

再次感謝各位來(lái)到IPF2024！今年IPF的主題是"智能元啟 創(chuàng)見(jiàn)?共行"。首先想聽(tīng)聽(tīng)各位對(duì)今天大會(huì)的感受，哪個(gè)觀(guān)點(diǎn)是你們印象最為深刻的？

中科軟左春：談到人工智能的發(fā)展，現(xiàn)在有一個(gè)詞叫"怕錯(cuò)過(guò)"，每個(gè)人都怕錯(cuò)過(guò)，我們的客戶(hù)也怕錯(cuò)過(guò)，所以我們都在加速學(xué)習(xí)。今天看到浪潮信息在系統(tǒng)軟件平臺(tái)的努力，以及算力、算法等方面的成果，我對(duì)此印象尤為深刻。

拓爾思施水才：第一，我感受到了浪潮信息正在集全棧AI系統(tǒng)創(chuàng)新之力，全面擁抱AI。第二個(gè)印象比較深的是浪潮信息的伙伴生態(tài)體系非常健全。第三，大模型應(yīng)用開(kāi)發(fā)的一體化端到端的開(kāi)發(fā)平臺(tái)EPAI平臺(tái)也是亮點(diǎn)，跟我們的拓天LLMOps 有著相似的路徑。

榮聯(lián)科技王向東：兩個(gè)詞，第一個(gè)詞是信心，彭總講的以應(yīng)用為導(dǎo)向，以系統(tǒng)為核心。應(yīng)用為導(dǎo)向點(diǎn)破了我們所處的時(shí)代特點(diǎn)，從技術(shù)競(jìng)爭(zhēng)變成應(yīng)用的競(jìng)爭(zhēng)。浪潮信息倡導(dǎo)以系統(tǒng)為核心，以平臺(tái)帶動(dòng)應(yīng)用創(chuàng)新，是以生態(tài)模式在競(jìng)爭(zhēng)。對(duì)于未來(lái)我們與浪潮信息的合作，我們信心十足。第二個(gè)詞是心動(dòng)，看著EPAI，很心動(dòng)，正琢磨著怎么回去跟用戶(hù)的應(yīng)用結(jié)合。

潞晨科技尤洋：我的第一點(diǎn)感受是，浪潮信息今天所發(fā)布的產(chǎn)品、工具有助于合作伙伴們更便捷、高效地去做自己的業(yè)務(wù)，特別是在AI方面。第二點(diǎn)是，浪潮信息對(duì)整個(gè)技術(shù)，大趨勢(shì)的理解是比較深的，有利于進(jìn)一步鞏固生態(tài)的力量。

銜遠(yuǎn)科技王曉波：生態(tài)兩個(gè)字就足以熱血沸騰了。在大模型賽道，中國(guó)領(lǐng)先的是豐富的消費(fèi)場(chǎng)景和應(yīng)用場(chǎng)景，以及非常好的數(shù)據(jù)基建。在生態(tài)方面，我們很希望擁抱生態(tài)，也希望我們自己的產(chǎn)品也有SaaS、MaaS各種服務(wù)。

產(chǎn)業(yè)鏈各方，在戰(zhàn)略布局上，會(huì)選擇如何擁抱"AI+" ？

浪潮信息陳昌浩：首先，浪潮信息作為系統(tǒng)廠(chǎng)商，面向算力多元化、場(chǎng)景差異化、大模型多樣化的產(chǎn)業(yè)現(xiàn)狀，會(huì)如何加速AI+落地？

浪潮信息劉軍：如果從生態(tài)模式思考，針對(duì)算力多元化、模型多樣化及場(chǎng)景多樣化問(wèn)題，浪潮信息期待通過(guò)元腦生態(tài)來(lái)提高整個(gè)產(chǎn)業(yè)在AI創(chuàng)新落地的效率，我們非常愿意成為這樣的平臺(tái)生態(tài)承載者。

元腦生態(tài)聚合鏈接600+算法廠(chǎng)商、8000+系統(tǒng)集成商。對(duì)于具備AI開(kāi)發(fā)核心能力的左手伙伴，我們?cè)谠X企智EPAI平臺(tái)實(shí)現(xiàn)對(duì)多元算力、多模算法的支持。對(duì)于右手伙伴，ISV可針對(duì)行業(yè)落地的解決方案，落地到各個(gè)場(chǎng)景客戶(hù)這一端，我們希望通過(guò)EPAI工具化平臺(tái)，使右手伙伴能夠快速高效的面向領(lǐng)域大模型進(jìn)行開(kāi)發(fā)并落地。

生態(tài)的快速發(fā)展和繁榮需要有一個(gè)能夠連接、聚集力量的產(chǎn)品，這就是今天我們推出企業(yè)大模型開(kāi)發(fā)平臺(tái)（EPAI）的思考。我們希望通過(guò)EPAI開(kāi)發(fā)平臺(tái)，為上萬(wàn)家合作伙伴提供工具箱，提供方法論，凝聚并激發(fā)生態(tài)的活力、伙伴的創(chuàng)新力，加速賦能千行百業(yè)的智能化轉(zhuǎn)型。

浪潮信息陳昌浩：中科軟當(dāng)前面向保險(xiǎn)、醫(yī)療等領(lǐng)域進(jìn)行AIGC研究和生態(tài)建設(shè)。請(qǐng)左總分享一下中科軟的經(jīng)驗(yàn)和體會(huì)？

中科軟左春：當(dāng)客戶(hù)想要建立垂直領(lǐng)域的應(yīng)用時(shí)，他需要選擇基座，這個(gè)基座是初始化的基座，需要帶著通用知識(shí)，也需要低能耗；另外它的技術(shù)要開(kāi)放，這個(gè)也涉及到開(kāi)源。為什么要開(kāi)源呢？因?yàn)殚_(kāi)源要解決流行性問(wèn)題，即需要有大量的人來(lái)用，很多更新、很多人活躍的維護(hù)，流行的開(kāi)源軟件具備重大價(jià)值。我們看到客戶(hù)的第一個(gè)環(huán)節(jié)即是選擇基座，在初始化的階段，需要確定模型參數(shù)，參數(shù)量與token數(shù)并不是越大越好，應(yīng)該有一個(gè)合理的度。

當(dāng)我們選擇基座以后，第二步是訓(xùn)練模型，目標(biāo)是基于已有的領(lǐng)域知識(shí)進(jìn)行訓(xùn)練實(shí)現(xiàn)精準(zhǔn)化。在訓(xùn)練過(guò)程中，廠(chǎng)家提供的是基座和工具，ISV提供了重要的知識(shí)梳理和知識(shí)的訓(xùn)練，客戶(hù)也會(huì)根據(jù)應(yīng)用需求來(lái)提出自己的方向或者重點(diǎn)。最后，現(xiàn)在AIGC主要的方法是神經(jīng)網(wǎng)絡(luò)和向量數(shù)據(jù)庫(kù)，都是歸納推斷，存在一定誤差。人工智能的成果往往是升級(jí)版的搜索功能，需要和已有應(yīng)用軟件的經(jīng)驗(yàn)和能力相結(jié)合，把二者合在一起作為一個(gè)解決方案，最終以實(shí)用效果為衡量標(biāo)準(zhǔn)。

這三步都要在企業(yè)端建立起來(lái)，在建立的過(guò)程中，首先基礎(chǔ)技術(shù)在于廠(chǎng)家，我們要學(xué)習(xí)并結(jié)合客戶(hù)需求，把技術(shù)做遷移，再搭建、運(yùn)行，并和已有系統(tǒng)集成。

浪潮信息陳昌浩：AI和大模型發(fā)展離不開(kāi)高質(zhì)量的數(shù)據(jù)。請(qǐng)施董分享下，在企業(yè)級(jí)大模型應(yīng)用落地時(shí)，數(shù)據(jù)層面所遇到的最核心挑戰(zhàn)是什么，該如何更好地將數(shù)據(jù)轉(zhuǎn)化為"生產(chǎn)力"？

拓爾思施水才：首先，從數(shù)據(jù)層面，ISV有五種類(lèi)型。第一種是做是做通用軟件產(chǎn)品的，隨著開(kāi)源和云服務(wù)的發(fā)展，受到很大的沖擊。第二類(lèi)是做行業(yè)應(yīng)用軟件，但是行業(yè)應(yīng)用軟件未來(lái)有一個(gè)重大的挑戰(zhàn)，用戶(hù)可能會(huì)成為我們的競(jìng)爭(zhēng)者，這在銀行業(yè)已經(jīng)非常明顯了。第三個(gè)是做人力外包型服務(wù)的，也面臨著碼農(nóng)被AI取代的風(fēng)險(xiǎn)，人效越來(lái)越高，收益越來(lái)越低。第四條路是硬件帶動(dòng)軟件，要做軟硬一體化的東西，要做一體機(jī)。第五條路就是拓爾思想做的數(shù)據(jù)和服務(wù)。我認(rèn)為，未來(lái)應(yīng)該從軟件到數(shù)件，數(shù)據(jù)這一塊非常有前途。

其次，我們認(rèn)為數(shù)據(jù)是大模型最重要的因素之一。因?yàn)榇竽Ｐ偷拇缶褪菂?shù)大，但是大家發(fā)現(xiàn)大力出奇跡，蠻力不可續(xù)，大模型有能力，沒(méi)有智力，一味地在用戶(hù)端搞算力競(jìng)賽，成本首先不靠譜，也沒(méi)有產(chǎn)出。

所以，我認(rèn)為現(xiàn)在大模型的落地需要三個(gè)"實(shí)"，第一個(gè)是實(shí)在，第二個(gè)是實(shí)用，第三個(gè)實(shí)效。實(shí)在是指 AI落地的時(shí)候工程化交付非常重要；實(shí)用是需要與業(yè)務(wù)高度相關(guān)，需要和用戶(hù)的業(yè)務(wù)吻合；實(shí)效是需要降本增效。解決這三個(gè)問(wèn)題，是目前大模型應(yīng)用非常重要的挑戰(zhàn)。

浪潮信息陳昌浩：榮聯(lián)科技正在發(fā)力深耕生物醫(yī)療、生命科學(xué)等領(lǐng)域，請(qǐng)王總談?wù)?，面向這類(lèi)強(qiáng)算力、大數(shù)據(jù)需求的場(chǎng)景領(lǐng)域，如何實(shí)現(xiàn)以應(yīng)用為導(dǎo)向，發(fā)揮出"高算效"？

榮聯(lián)科技王向東：榮聯(lián)科技把領(lǐng)域的業(yè)務(wù)需求轉(zhuǎn)變IT需求，然后利用IT技術(shù)和業(yè)務(wù)進(jìn)行深度融合，協(xié)助這個(gè)領(lǐng)域的客戶(hù)做數(shù)字化轉(zhuǎn)型。我們將生物醫(yī)療、生命科學(xué)等領(lǐng)域的特點(diǎn)總結(jié)為"兩高、兩多"，"兩高"是指高算力、高IO迭代并發(fā)；"兩多"是指多樣性的計(jì)算需求，多維度數(shù)據(jù)交叉并存。生命科學(xué)領(lǐng)域正利用AI先進(jìn)技術(shù)實(shí)現(xiàn)數(shù)據(jù)的價(jià)值化，并驅(qū)動(dòng)自己的業(yè)務(wù)往前走。從技術(shù)角度來(lái)看，實(shí)質(zhì)上就是AI的算力服務(wù)。

所謂"高算效"是實(shí)測(cè)性能與資源利用率的雙重提升。過(guò)去談到算力，是站在資源角度上描述有多少能力。但實(shí)質(zhì)上經(jīng)常遇到，客戶(hù)買(mǎi)的都是最好的東西，但是實(shí)測(cè)的性能沒(méi)有發(fā)揮出來(lái)，效力是不對(duì)等的。榮聯(lián)的優(yōu)勢(shì)是將用戶(hù)的算力需求轉(zhuǎn)為技術(shù)支撐，為用戶(hù)提供高效的算力服務(wù)。隨著AI技術(shù)的不斷引入，生命醫(yī)療領(lǐng)域呈現(xiàn)通過(guò)場(chǎng)景化應(yīng)用開(kāi)發(fā)，帶動(dòng)多學(xué)科的交叉創(chuàng)新研究的趨勢(shì)。針對(duì)高算力、高IO迭代并發(fā)、多維度海量數(shù)據(jù)交叉并存的特點(diǎn)，利用機(jī)器學(xué)習(xí)技術(shù)，識(shí)別出可并行處理的任務(wù)和關(guān)鍵"瓶頸"任務(wù)，有針對(duì)性的提供不同的算力供給，將多節(jié)點(diǎn)并發(fā)執(zhí)行和對(duì)瓶頸進(jìn)行集中算力供給相結(jié)合, 最大限度的釋放算力，進(jìn)而提高業(yè)務(wù)處理效率。

但只解決了算力的調(diào)度問(wèn)題是不行的，面對(duì)高算力、海量數(shù)據(jù)的存儲(chǔ)及管理必須與廠(chǎng)商相結(jié)合才能滿(mǎn)足客戶(hù)全部要求。因此，榮聯(lián)和浪潮信息在該領(lǐng)域開(kāi)展了諸多的合作，譬如研究所的冷凍電鏡系統(tǒng)、醫(yī)院的生命科學(xué)實(shí)驗(yàn)室平臺(tái)建設(shè)等，當(dāng)然這也有“元腦生態(tài)”的發(fā)力作用。

浪潮信息陳昌浩：潞晨科技所推出的開(kāi)源AI大模型開(kāi)發(fā)系統(tǒng)可顯著降低大模型落地成本，請(qǐng)尤洋教授從AI Infra層面分享如何更高效地用好算力，開(kāi)發(fā)大模型的經(jīng)驗(yàn)？

潞晨科技尤洋：潞晨科技的核心價(jià)值是提升算力的附加值。比如說(shuō)同樣的四五臺(tái)機(jī)器，本來(lái)它只能訓(xùn)練10億參數(shù)模型，現(xiàn)在能不能訓(xùn)練出百億參數(shù)模型？通過(guò)極致的算力軟件，內(nèi)存的優(yōu)化，把同樣的設(shè)備訓(xùn)出更大的模型。還有一個(gè)角度就是，當(dāng)機(jī)器資源有限時(shí)，能不能訓(xùn)練速度快2倍，幫助合作伙伴和客戶(hù)在有限的資源內(nèi)，通過(guò)優(yōu)化提升更大的算力價(jià)值？

為了實(shí)現(xiàn)上述目標(biāo)，潞晨科技主要往兩個(gè)點(diǎn)發(fā)力，第一點(diǎn)是構(gòu)造了Colossal-AI Platform系統(tǒng)，并且開(kāi)源了Open-Sora、ColossalChat等AI大模型解決方案，通過(guò)在Colossal-AI把訓(xùn)練速度提升了2-7倍。第二點(diǎn)，我們專(zhuān)注于對(duì)算力要求較高的垂直模型或者垂直行業(yè)，目前最明顯的是視頻生成場(chǎng)景，通過(guò)我們的技術(shù)，幫企業(yè)盡可能降低關(guān)鍵領(lǐng)域視頻大模型的門(mén)檻。

浪潮信息陳昌浩：銜遠(yuǎn)科技是大模型在B端落地的先行者。請(qǐng)曉波總談?wù)劥竽Ｐ桶l(fā)展如何實(shí)現(xiàn)技術(shù)與應(yīng)用的協(xié)同？在推動(dòng)大模型落地過(guò)程中有哪些挑戰(zhàn)？

銜遠(yuǎn)科技王曉波：如果把技術(shù)比作化學(xué)，應(yīng)用就是化工，一項(xiàng)技術(shù)的發(fā)現(xiàn)或者發(fā)展，無(wú)論它是偶發(fā)的還是突發(fā)的，除了技術(shù)本身要解決的難點(diǎn)之外，它都逃避不了一個(gè)經(jīng)濟(jì)的問(wèn)題。商業(yè)化的價(jià)值是支撐一項(xiàng)技術(shù)能夠更好發(fā)展的終極動(dòng)力。

技術(shù)以一個(gè)什么樣的方式、在什么樣的階段去切入商業(yè)化，是所有技術(shù)在發(fā)展過(guò)程中都面臨的問(wèn)題。中美發(fā)展方向各有不同，目前國(guó)內(nèi)業(yè)者有一種思路是追著OpenAI，或者在它的延長(zhǎng)線(xiàn)上做事情。另一種思路，站在當(dāng)下的產(chǎn)業(yè)業(yè)態(tài)當(dāng)中、價(jià)值鏈各個(gè)環(huán)節(jié)中，優(yōu)先提升效率，或者先改變模式。銜遠(yuǎn)科技選擇了第二種思路，利用行業(yè)的認(rèn)知和模型能力先選擇一個(gè)閉環(huán)的場(chǎng)景，在這個(gè)閉環(huán)場(chǎng)景里跟客戶(hù)一起去成長(zhǎng)，形成數(shù)據(jù)飛輪，并不斷打磨自己的模型和產(chǎn)品，以應(yīng)用倒推模型技術(shù)的發(fā)展。

產(chǎn)業(yè)鏈各方，該如何攜生態(tài)之力共推"AI+" ？

浪潮信息陳昌浩：我們知道各領(lǐng)域差異很大，"千行百業(yè)、千行千面"，當(dāng)AI+走向落地，離不開(kāi)生態(tài)伙伴的合力推動(dòng)。請(qǐng)各位用一句話(huà)來(lái)總結(jié)，未來(lái)生態(tài)該如何協(xié)同，各自將在AI產(chǎn)業(yè)鏈中發(fā)揮怎樣的作用去協(xié)力推"AI+"？

中科軟左春："價(jià)值與交付是關(guān)鍵"

我用兩個(gè)關(guān)健詞來(lái)總結(jié)，一是價(jià)值，要區(qū)分自己的價(jià)值，一般看領(lǐng)域知識(shí)，有的企業(yè)是強(qiáng)領(lǐng)域知識(shí)，有些相對(duì)比較通用。二是交付，交付越通用的產(chǎn)品周期越短，越領(lǐng)域性的交付時(shí)間越長(zhǎng)。在這兩個(gè)指標(biāo)基礎(chǔ)上找到了自己的定位，然后利用生態(tài)之力協(xié)同發(fā)展。

拓爾思施才水："ALL in AI，以數(shù)據(jù)筑基，智拓未來(lái)"

作為ISV來(lái)說(shuō)，全面擁抱AI，我們確定一條規(guī)矩：如果這個(gè)產(chǎn)品沒(méi)有AI的基因和元素，停止開(kāi)發(fā)。在生態(tài)方面，我認(rèn)為讓伙伴賺到更多的錢(qián)，比自己多賺一點(diǎn)更是正路。

榮聯(lián)科技王向東："元腦生態(tài)，新質(zhì)生產(chǎn)力落地的最佳實(shí)踐"

在元腦生態(tài)，榮聯(lián)是右手合作伙伴，是受益者。加入元腦生態(tài)是業(yè)務(wù)決定的，我們的期待做成的事情僅靠一家公司是無(wú)法完成的，場(chǎng)景設(shè)計(jì)出來(lái)以后涉及到算法，每投放一批數(shù)據(jù)和場(chǎng)景，算法都需要優(yōu)化，基礎(chǔ)算力也要調(diào)優(yōu)，這是三個(gè)類(lèi)型角色，是ISV+左手+浪潮信息。

同時(shí)，這樣的合作的成果，在領(lǐng)域內(nèi)是可復(fù)制的，在成本不斷降低的同時(shí)，也將極大的促進(jìn)領(lǐng)域應(yīng)用的發(fā)展。因此，元腦生態(tài)也是創(chuàng)造力萃取的平臺(tái)，是推動(dòng)新質(zhì)生產(chǎn)力落地的最佳實(shí)踐。

潞晨科技尤洋："我們希望，與浪潮信息一起去解放AI生產(chǎn)力，賦能千行百業(yè)"

銜遠(yuǎn)科技王曉波："生態(tài)就是開(kāi)放的，行業(yè)和人都需要做專(zhuān)業(yè)的事情，大家一起協(xié)同把專(zhuān)業(yè)的事情做大，整個(gè)生態(tài)就繁榮起來(lái)了"

大模型的落地跟一個(gè)企業(yè)能不能把貨賣(mài)到消費(fèi)者是完全一樣的，但大模型更加沒(méi)有邊界。我認(rèn)為生態(tài)就是開(kāi)放的，行業(yè)和人都需要做專(zhuān)業(yè)的事情，大家一起協(xié)同把專(zhuān)業(yè)的事情做大，整個(gè)生態(tài)就繁榮起來(lái)了。

浪潮信息陳昌浩：最后再請(qǐng)劉總用一句話(huà)總結(jié)，浪潮信息對(duì)于打造生態(tài)共同體，推動(dòng)AI+落地有怎樣的策略和思考？

浪潮信息劉軍："紙上得來(lái)終覺(jué)淺，絕知此事要躬行。這是一個(gè)人工智能的新時(shí)代，我們不僅是這個(gè)時(shí)代的見(jiàn)證者，我們更是這個(gè)時(shí)代的建設(shè)者。"

元腦生態(tài)伙伴是一個(gè)具有學(xué)習(xí)成長(zhǎng)能力的組織，是業(yè)界唯一一個(gè)實(shí)現(xiàn)AI服務(wù)器分銷(xiāo)的生態(tài)，實(shí)現(xiàn)AI調(diào)度平臺(tái)分銷(xiāo)和渠道的生態(tài)，是把元腦聯(lián)合解決方案復(fù)制落地的生態(tài)。

從浪潮信息自身實(shí)踐來(lái)看，目前，EPAI已全面賦能浪潮信息，面向運(yùn)營(yíng)、服務(wù)、研發(fā)等環(huán)節(jié)，快速孵化出智能客服、智能編程、智能投標(biāo)助手等應(yīng)用。以智能投標(biāo)助手為例，可實(shí)現(xiàn)招標(biāo)參數(shù)自動(dòng)識(shí)別，識(shí)別準(zhǔn)確率達(dá)85%有余。而這樣的場(chǎng)景落地，是每一個(gè)元腦生態(tài)伙伴都可以做到的，從自己的場(chǎng)景、自己的數(shù)據(jù)，采用EPAI工具先把它做起來(lái)。就好像我們手里有了錘子，我們就去找釘子，這是特別好的入局方法。