 |
作者：Holly Vatter, IBM市場部人工智能資深產(chǎn)品經(jīng)理
北京2023年5月15日 /美通社/ -- 責(zé)任是一種后天習(xí)得的行為。 隨著時(shí)間的推移，我們清晰地認(rèn)識(shí)到滿足社會(huì)期望、遵守規(guī)則和法律以及尊重他人權(quán)利的必要性。 我們弄清楚了責(zé)任、問責(zé)制和后續(xù)獎(jiǎng)勵(lì)措施之間的聯(lián)系。 如果我們負(fù)責(zé)任地行事，那么我們會(huì)獲得積極的回報(bào)；反之，我們則可能會(huì)面臨不良后果，包括罰款、失去信任或地位，甚至被監(jiān)禁。 遵守負(fù)責(zé)任的人工智能 (AI) 標(biāo)準(zhǔn)也是如此。
Gartner 預(yù)測，到 2025 年，人工智能 (AI) 軟件市場將達(dá)到近 1348 億美元。
構(gòu)建負(fù)責(zé)任的 AI
隨著 AI 以及構(gòu)建和縮放模型對(duì)企業(yè)的業(yè)務(wù)越來越重要，一個(gè)高度相關(guān)的主題便是如何實(shí)現(xiàn)負(fù)責(zé)任的 AI (RAI)。 企業(yè)越來越需要積極地推進(jìn)公平、負(fù)責(zé)任且合乎道德的決策，并遵守現(xiàn)行的法律法規(guī)。
管理風(fēng)險(xiǎn)和聲譽(yù)
沒有企業(yè)愿意因?yàn)槌舐劧霈F(xiàn)在新聞中，媒體上最近經(jīng)常報(bào)道一些關(guān)于不公平、不可解釋或帶有偏見的 AI 的案例。 企業(yè)需要保護(hù)個(gè)人隱私并加強(qiáng)信任。 基于錯(cuò)誤數(shù)據(jù)或假設(shè)而采取的錯(cuò)誤或帶有偏見的行為可能導(dǎo)致被起訴并失去客戶、利益相關(guān)者、股東和員工的信任。 最終，這可能導(dǎo)致企業(yè)聲譽(yù)受損以及銷售和收入損失。
堅(jiān)持道德原則
推進(jìn)道德決策的意義在于不偏袒任何群體，這就要求在數(shù)據(jù)采集、構(gòu)建、部署和監(jiān)控模型的過程中建立公平性并檢測出帶有偏見的行為。 為了做出公平的決策，企業(yè)還需要能夠適應(yīng)行為模式和概要文件的變化，這可能需要在整個(gè) AI 生命周期中重新訓(xùn)練或重建模型。
根據(jù)政府法規(guī)提供保護(hù)并進(jìn)行擴(kuò)展
AI 法規(guī)正在快速完善和變化，不合規(guī)事件可能導(dǎo)致昂貴的審計(jì)費(fèi)用、罰款和負(fù)面新聞。 在多個(gè)國家/地區(qū)設(shè)有分支機(jī)構(gòu)的跨國企業(yè)在滿足當(dāng)?shù)睾蛧?地區(qū)的特定規(guī)則和法規(guī)方面面臨一些挑戰(zhàn)。 而醫(yī)療保健、政府和金融服務(wù)等高度監(jiān)管市場中的企業(yè)在滿足行業(yè)特定法規(guī)方面則面臨更多的挑戰(zhàn)。
"不合規(guī)事件的潛在成本十分驚人，它遠(yuǎn)不止于被罰款那樣簡單。 首先，如果發(fā)生一次不合規(guī)事件，企業(yè)將平均損失 587 萬美元的收入。 但這只是冰山一角 - 財(cái)務(wù)影響遠(yuǎn)遠(yuǎn)超出了您的最終收益。
負(fù)責(zé)任的 AI 需要治理
Gartner 將"AI 治理"定義為"為應(yīng)用和使用人工智能技術(shù)而制定政策、分配決策權(quán)并確保企業(yè)對(duì)風(fēng)險(xiǎn)和投資決策負(fù)責(zé)的過程"。
盡管是出于善意，而且技術(shù)也在不斷進(jìn)步，但實(shí)現(xiàn)負(fù)責(zé)任的 AI 還是困難重重。 負(fù)責(zé)任的 AI 需要 AI 治理；對(duì)于許多企業(yè)來說，這就需要完成大量的手動(dòng)工作，而更改數(shù)據(jù)和模型版本以及使用多種工具、應(yīng)用程序和平臺(tái)則會(huì)加大手動(dòng)工作量。 手動(dòng)的工具和流程可能會(huì)導(dǎo)致代價(jià)高昂的人為錯(cuò)誤，并導(dǎo)致模型缺乏透明度、正確的編目和監(jiān)控。 這些"黑匣子"模型可能會(huì)產(chǎn)生即使是數(shù)據(jù)科學(xué)家和其他關(guān)鍵利益相關(guān)者也無法解釋的分析結(jié)果。
在解決由管理層、利益相關(guān)者和股東提出的模型性能問題時(shí)，可解釋的結(jié)果至關(guān)重要。 客戶有理由要求公司負(fù)責(zé)解釋分析決策的理由，包括信貸、抵押貸款和學(xué)校錄取被拒，以及醫(yī)療保健診斷或治療的細(xì)節(jié)。 向?qū)徲?jì)師或監(jiān)管機(jī)構(gòu)說明分析決策的理由時(shí)，還必須提供記錄在案且可解釋的模型事實(shí)。
IBM watsonx.governance - 推進(jìn)負(fù)責(zé)任、透明和可解釋的 AI 工作流程
IBM 自動(dòng)治理方法可幫助您指導(dǎo)、管理和監(jiān)控企業(yè)的 AI 活動(dòng)。 通過采用軟件自動(dòng)化，此解決方案有助于增強(qiáng)您滿足法規(guī)要求和解決道德問題的能力（無需額外支付轉(zhuǎn)換當(dāng)前數(shù)據(jù)科學(xué)平臺(tái)的成本）。
在整個(gè) AI 生命周期中，watsonx.governance 解決方案可以監(jiān)控并管理模型的構(gòu)建、部署和監(jiān)控過程以及事實(shí)集中過程，從而實(shí)現(xiàn) AI 透明度和可解釋性。 此解決方案的組件包括：
想要了解 IBM watsonx.governance 是如何幫助企業(yè)構(gòu)建負(fù)責(zé)任的 AI 嗎？ 立即聯(lián)絡(luò) IBM 專家
關(guān)于 IBM
IBM 是全球領(lǐng)先的混合云、人工智能及企業(yè)服務(wù)提供商，幫助超過 175 個(gè)國家和地區(qū)的客戶，從其擁有的數(shù)據(jù)中獲取商業(yè)洞察，簡化業(yè)務(wù)流程，降低成本，并獲得行業(yè)競爭優(yōu)勢。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的超過 4000 家政府和企業(yè)實(shí)體依靠 IBM 混合云平臺(tái)和紅帽 OpenShift 快速、高效、安全地實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計(jì)算、行業(yè)云解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶提供了開放和靈活的選擇。對(duì)企業(yè)誠信、透明治理、社會(huì)責(zé)任、包容文化和服務(wù)精神的長期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。了解更多信息，請(qǐng)?jiān)L問：https://www.ibm.com/cn-zh
IBM 媒體聯(lián)絡(luò)人：
