用元腦企智EPAI"玩轉(zhuǎn)"大模型應用開發(fā)，1人1月開發(fā)智能售前助手

北京2024年9月14日 /美通社/ -- 對于每一位IT售前而言，與數(shù)萬字的招標文件打交道是"工作日常"，他們不僅需要在幾百頁的招標文件中抽絲剝繭找到關鍵信息，還要在瞬息萬變的市場中迅速捕捉商機。面對多元化、專業(yè)化的IT業(yè)務需求，每一個細節(jié)都不容有失。

在人工智能技術飛速發(fā)展的今天，要讓IT售前將大模型能力融入到招投標這項專業(yè)性極強的工作中，就像"西天取經(jīng)"一樣難關重重：AI助手如何精準掌握大量格式不一且隨時更新的產(chǎn)品資料？如何理解售前業(yè)務邏輯？能否確保數(shù)據(jù)安全？

浪潮信息售前團隊先行先試，基于企業(yè)大模型開發(fā)平臺元腦企智EPAI（Enterprise Platform of AI），零代碼完成企業(yè)知識庫構建、模型微調(diào)、應用開發(fā)等工作，簡單高效、低門檻地打造出售前助手"元小智"，賦能日常售前業(yè)務，實現(xiàn)智慧化變革，團隊工作效率提升3-5倍。

做一個好用的售前助手，到底有多難？

面對日益增長的業(yè)務需求，浪潮信息售前團隊決定用大模型技術變革售前業(yè)務，加速推進業(yè)務體系的智能化轉(zhuǎn)型。在對市面上多種工具進行測試后發(fā)現(xiàn)：AI助手在閱讀、理解、分析和處理長文本方面表現(xiàn)優(yōu)異，但是要想將大模型應用到專業(yè)化、精細化和低容錯的招投標業(yè)務中，還有非常繁瑣的開發(fā)工作需要完成。

第一難，如何構建浪潮信息全業(yè)務線產(chǎn)品信息知識庫，并讓大模型實現(xiàn)高精準、高效率的檢索。浪潮信息的業(yè)務資料覆蓋了服務器、存儲、網(wǎng)絡、虛擬化、安全等多種IT基礎設施領域，大到產(chǎn)品迭代型號，小到插槽數(shù)量、板卡規(guī)格，繁雜的信息不僅多如牛毛，還分成了pdf、doc、xls、html、json等多種格式進行存儲，難以進行統(tǒng)一轉(zhuǎn)換。此外，要想確保模型對有效信息進行精準檢索，還涉及到復雜的結構化、非結構化信息提取、數(shù)據(jù)向量化、召回測試、檢索優(yōu)化等多個環(huán)節(jié)，需要對RAG系統(tǒng)進行整體優(yōu)化，以提高檢索精度。

第二難，如何快速、高效地完成模型微調(diào)，提升基礎大模型對于售前業(yè)務的理解能力。售前業(yè)務具有特定的行文格式、專業(yè)術語，大模型需要能夠進行專業(yè)化的內(nèi)容輸出，因此需要構建高質(zhì)量的微調(diào)數(shù)據(jù)集進行模型微調(diào)。這不僅需要對行業(yè)、企業(yè)數(shù)據(jù)進行清洗和過濾，還要基于提取出的高質(zhì)量數(shù)據(jù)合成、生成、構建，以滿足微調(diào)過程中對數(shù)據(jù)量的需求。這些繁瑣的準備工作，需要開發(fā)人員具備豐富的大模型微調(diào)經(jīng)驗，時間周期長、最終結果不可控，試錯成本高。

最后，考慮到招投標文件包含大量企業(yè)隱私數(shù)據(jù)，不能上傳至云端大模型進行訓練推理，企業(yè)模型必須完成私有化本地開發(fā)，以及部署易用的大模型應用，在確保數(shù)據(jù)絕對安全的同時確保應用的高可用。

化解三難，元腦企智EPAI降低大模型開發(fā)門檻

卓越的大模型應用開發(fā)工具是釋放AI生產(chǎn)力的關鍵。企業(yè)大模型開發(fā)平臺元腦企智EPAI提供了全鏈路、高可用的系列工具，將專業(yè)的大模型應用開發(fā)流程進行了界面化封裝，有效降低大模型應用開發(fā)門檻，零代碼即可完成大模型應用開發(fā)的全流程工作。

浪潮信息售前團隊使用元腦企智EPAI，完成了企業(yè)知識庫構建、模型微調(diào)、應用開發(fā)與服務上線，實現(xiàn)了企業(yè)知識的高效利用、售前場景下的模型能力提升與便捷的應用開發(fā)部署，跑通大模型應用落地全流程，成功打造出智能售前助手"元小智"。

• 輕松構建企業(yè)知識庫，提高回復精準度：依托元腦企智EPAI的知識庫工具，自動完成結構化、非結構化數(shù)據(jù)的解析和存儲。售前團隊將整理出的1500多份pdf、docx、xls等格式的業(yè)務資料、產(chǎn)品信息、行業(yè)研報進行統(tǒng)一處理，構建起公司8大業(yè)務線全部在售產(chǎn)品的知識庫，將繁雜的企業(yè)知識轉(zhuǎn)換為大模型"最強外掛"。
  為了提升知識庫檢索生成效果，元腦企智EPAI的RAG系統(tǒng)完成了各個環(huán)節(jié)的全鏈路優(yōu)化，特別是通過自研模型替代傳統(tǒng)Rerank模型，實現(xiàn)整體精度提升。通過混合檢索策略，多次調(diào)整、驗證不同參數(shù)配置下的檢索精度，找到最佳的檢索配置，有效提高知識庫檢索問答的質(zhì)量，滿足售前專家精準快速查找產(chǎn)品信息的業(yè)務需求。

• 高效微調(diào)數(shù)據(jù)治理，提升模型專業(yè)能力：基于元腦企智EPAI的微調(diào)數(shù)據(jù)處理工具，售前人員從業(yè)務資料、產(chǎn)品信息等文檔中，自動抽取生成微調(diào)數(shù)據(jù)集；然后通過多種參數(shù)閾值設定，針對微調(diào)數(shù)據(jù)進行自動打分，剔除低質(zhì)量數(shù)據(jù)，完成高質(zhì)量數(shù)據(jù)的過濾與篩選，最終形成數(shù)十萬條高質(zhì)量微調(diào)數(shù)據(jù)，減少數(shù)據(jù)處理的時間和成本。通過元腦企智EPAI的零代碼微調(diào)工具，結合內(nèi)置的經(jīng)專業(yè)算法人員調(diào)優(yōu)的超參數(shù)配置，實現(xiàn)最佳的微調(diào)效果，構建起符合業(yè)務需求的專用模型。
• 快捷開發(fā)本地應用，實現(xiàn)開箱即用：元腦企智EPAI內(nèi)置對話式應用支持多輪對話、長文本分析、單文檔對話、網(wǎng)絡檢索等交互功能，可在本地完成模型部署上線服務，輕松滿足使用大模型的多種功能需求。

浪潮信息售前團隊在元腦企智EPAI的加持下，大大縮短了應用開發(fā)周期，1人1月即可完成模型微調(diào)、應用開發(fā)，成功打造出售前助手"元小智"，為售前人員的工作注入智慧生產(chǎn)力。

投標效率提升3-5倍，元腦企智EPAI加速釋放大模型價值

基于元腦企智EPAI打造的對話式智能售前助手"元小智"能夠閱讀數(shù)萬字、上百頁的招標文件，招標關鍵信息識別準確率達85%，秒級提取客戶核心需求，將招標文件平均分析時間從天級縮短到分鐘級以下。"元小智"可以快速查閱浪潮信息全系列在售產(chǎn)品及方案的相關內(nèi)容，生成對應的產(chǎn)品優(yōu)勢、核心參數(shù)等投標支撐信息，免去售前人員在海量產(chǎn)品文件中逐一查閱的重復性勞動。此外，結合網(wǎng)絡檢索功能，"元小智"能夠輔助售前人員快速了解同類產(chǎn)品信息，釋放50%的分析時間。

未來，浪潮信息將基于元腦企智EPAI，為業(yè)內(nèi)提供"算力+平臺+服務"一站式解決方案，持續(xù)加速大模型應用創(chuàng)新與發(fā)展，讓大模型應用開發(fā)不再復雜。