每經記(ji)者(zhe)｜夏冰(bing)    每經編輯｜梁(liang)梟    

《可信人工智(zhi)能產業生態發展報告(gao)》正式發布(bu)

圖片(pian)來源：主(zhu)辦(ban)方供圖

“可信人工(gong)(gong)智能”并非(fei)新名詞了(le)。隨著可信實踐的(de)深(shen)入，產業界對可信人工(gong)(gong)智能的(de)認識(shi)也在不斷深(shen)化(hua)。

今日(ri)（9月1日(ri)），在上(shang)海舉辦的2022世界人(ren)工(gong)智(zhi)能(neng)大會(hui)可(ke)信(xin)人(ren)工(gong)智(zhi)能(neng)論壇上(shang)，全球(qiu)20余位可(ke)信(xin)人(ren)工(gong)智(zhi)能(neng)頂尖智(zhi)腦、政府(fu)領導、行業(ye)代表，圍(wei)繞可(ke)信(xin)AI的政策與標準、理論與技術、應用與場(chang)景等議(yi)題展(zhan)開探討。

如何解決AI信任危機？

“當(dang)前，人工(gong)智能(neng)(neng)技術加快演進，深(shen)刻改(gai)變(bian)人們的(de)生(sheng)產(chan)(chan)生(sheng)活方(fang)式(shi)，隨之而來的(de)數據隱私、算(suan)法(fa)歧視、安(an)全(quan)風(feng)險等人工(gong)智能(neng)(neng)治理問題也引起各方(fang)的(de)共同關注。”上海市政府副秘書長尚玉英在論(lun)壇上率先提出，發展(zhan)(zhan)可(ke)信AI，推動人工(gong)智能(neng)(neng)透明可(ke)釋、安(an)全(quan)可(ke)控、多元(yuan)包容(rong)已經成(cheng)為(wei)全(quan)球共識，融合(he)可(ke)信要素的(de)人工(gong)智能(neng)(neng)產(chan)(chan)業生(sheng)態成(cheng)為(wei)新(xin)時(shi)代人工(gong)智能(neng)(neng)發展(zhan)(zhan)的(de)必(bi)由之路。

據IDC相關數據，2021年全球人工智能產業(ye)規模為(wei)3619億美元(yuan)，預(yu)計在2022年同(tong)比增長19.6%，超過4300億美元(yuan)。

然(ran)而(er)，隨著人工(gong)智能應用(yong)的深入(ru)，其(qi)自身的技(ji)術(shu)缺陷以及帶(dai)來(lai)的決策偏見(jian)、使(shi)用(yong)安全等問(wen)題引發了信(xin)任(ren)危(wei)機，可(ke)信(xin)成為關(guan)注焦點(dian)。而(er)構建可(ke)信(xin)人工(gong)智能成為緩(huan)解和(he)消(xiao)除這(zhe)些擔(dan)憂的必然(ran)選擇。

學術界(jie)率先(xian)推開了可信AI的大門，而(er)企業界(jie)則成(cheng)為(wei)實(shi)踐(jian)可信AI的主(zhu)要(yao)力量。

世(shi)界人工(gong)智(zhi)能(neng)大會可信人工(gong)智(zhi)能(neng)論壇現場

圖片來源(yuan)：每經記者(zhe) 夏冰 攝

澳大(da)利亞科(ke)學院(yuan)(yuan)(yuan)院(yuan)(yuan)(yuan)士、京東探索研究院(yuan)(yuan)(yuan)院(yuan)(yuan)(yuan)長(chang)陶大(da)程從理論層(ceng)面(mian)剖析了可(ke)信(xin)人(ren)(ren)工智(zhi)(zhi)能(neng)(neng)中各種支撐技(ji)術，從實踐(jian)視角詳(xiang)述可(ke)信(xin)人(ren)(ren)工智(zhi)(zhi)能(neng)(neng)的實踐(jian)路(lu)徑，對(dui)實踐(jian)可(ke)信(xin)人(ren)(ren)工智(zhi)(zhi)能(neng)(neng)、完善可(ke)信(xin)生態(tai)提出了方案和(he)建議。

陶(tao)大程認為，可信(xin)AI應該研究(jiu)怎么(me)從以(yi)下四(si)方(fang)面解決AI的(de)信(xin)任危機：穩定性(xing)(xing)，AI系統抵(di)抗各類環(huan)境(jing)噪聲、攻擊的(de)能(neng)力；可解釋性(xing)(xing)，AI系統的(de)預測、決策(ce)是否透(tou)明、可被人(ren)理解；隱(yin)私保護，AI系統是否可以(yi)保護用戶隱(yin)私不被泄露；公平性(xing)(xing)，AI系統是否公平對待不同群體。

陶(tao)大程表示，可(ke)信(xin)(xin)AI研究的(de)方(fang)方(fang)面面相互聯系，并不孤立(li)。因(yin)此，在(zai)建(jian)立(li)相關標準時需要將可(ke)信(xin)(xin)AI作為一個整體來考慮。陶(tao)大程提出，實踐中(zhong)，應加強業(ye)務人員在(zai)AI應用構建(jian)中(zhong)的(de)參與(yu)程度，融合業(ye)務、數據、算法、運維，以更好(hao)更快地實驗(yan)、開(kai)發、部署、管理應用，保證(zheng)交付與(yu)運行質量，提升各業(ye)務線獲得的(de)效用與(yu)價值。

可信AI仍面臨諸多挑戰

可信已經在人(ren)工(gong)(gong)智能產(chan)業(ye)各個環節中(zhong)落地，貫穿研發、生(sheng)產(chan)、經營等內部全(quan)流(liu)程(cheng)，打造出全(quan)面融合可信要素的人(ren)工(gong)(gong)智能產(chan)業(ye)，涵蓋基(ji)礎(chu)能力、理論技術(shu)、應用場(chang)景與產(chan)品設(she)備等多元化模塊。

論壇上，為推動企業實現業務(wu)全鏈路可(ke)(ke)信，護(hu)航可(ke)(ke)信AI走向(xiang)工(gong)業級(ji)落地，螞(ma)蟻集團基于大(da)規模實踐經驗，聯合清華大(da)學和中國信通院(yuan)云計算與大(da)數(shu)據研究所共研一款業內(nei)首個適配工(gong)業級(ji)應(ying)用(yong)的(de)AI安全檢測(ce)平臺，正(zheng)式發(fa)布向(xiang)行業開放(fang)使用(yong)。

螞蟻集團(tuan)機器智能部總(zong)經理王維強(qiang)從阿里集團(tuan)基(ji)于可信觀的封(feng)控技(ji)術角度，談了可信AI從可解釋性(xing)、公平性(xing)、魯棒性(xing)、隱私(si)保(bao)護四個維度去推進創(chuang)新、共建、共生(sheng)。

“如何量化AI模(mo)型的(de)公(gong)(gong)平，如果不公(gong)(gong)平原因何在？最終如何讓模(mo)型更加公(gong)(gong)平，因此，AI公(gong)(gong)平性(xing)需要(yao)(yao)可衡量、可歸因、可優(you)化。”王維強談到，從隱(yin)(yin)(yin)私(si)保護技術(shu)角度，通(tong)過(guo)用戶(hu)(hu)隱(yin)(yin)(yin)私(si)體系升(sheng)級(ji)，最小(xiao)化使用用戶(hu)(hu)客戶(hu)(hu)端內容，識別欺詐、賭博、洗錢等風險(xian)場景；與(yu)合(he)作(zuo)伙伴(ban)的(de)聯(lian)(lian)(lian)防聯(lian)(lian)(lian)控，螞蟻(yi)開(kai)源(yuan)的(de)可信(xin)隱(yin)(yin)(yin)私(si)計算(suan)技術(shu)與(yu)各互聯(lian)(lian)(lian)友商通(tong)過(guo)多(duo)方安全計算(suan)、聯(lian)(lian)(lian)合(he)建模(mo)等方式，助力生態(tai)(tai)高效進行聯(lian)(lian)(lian)合(he)風控，共同(tong)控制風險(xian)，與(yu)生態(tai)(tai)伙伴(ban)隱(yin)(yin)(yin)私(si)技術(shu)共建，形成數據最小(xiao)化。在這方面(mian)的(de)落地實踐，也(ye)讓融合(he)可信(xin)要(yao)(yao)素的(de)人工智(zhi)能產業生態(tai)(tai)開(kai)始興起。

事實上，目前，人工(gong)智(zhi)能平臺系統與可信理(li)念的(de)融合，在數據處理(li)、模(mo)型(xing)構建、部(bu)署和支(zhi)撐(cheng)服務等方面(mian)還面(mian)臨(lin)不少挑戰(zhan)。技術(shu)上，算法(fa)脆弱易(yi)受(shou)攻擊帶來的(de)危(wei)險性；黑箱模(mo)型(xing)導致(zhi)算法(fa)不透明(ming)，這些都導致(zhi)外界無(wu)法(fa)直觀理(li)解決(jue)策背后的(de)原因。

OPPO終端安全領域總經理王安宇則表示(shi)，從(cong)1G到4G時代，用(yong)戶(hu)的(de)(de)(de)(de)信(xin)(xin)任(ren)不(bu)僅僅是產(chan)品本身的(de)(de)(de)(de)安全性，還涉及各參(can)與實體之間(jian)的(de)(de)(de)(de)互(hu)信(xin)(xin)，數字化時代的(de)(de)(de)(de)可(ke)信(xin)(xin)內涵在于安全性、隱私保(bao)護、可(ke)靠(kao)性、韌(ren)性、物理安全。“所以說(shuo)融(rong)合世界(jie)的(de)(de)(de)(de)可(ke)信(xin)(xin)在社會空(kong)間(jian)、網絡空(kong)間(jian)、物理空(kong)間(jian)，而(er)消(xiao)費者終端安全的(de)(de)(de)(de)趨勢(shi)在感知與交互(hu)安全。”

在中國信通院云計(ji)算(suan)(suan)(suan)與(yu)大(da)數據(ju)研究所內容科技部副主任(ren)(ren)石霖看來，應以評(ping)(ping)測手段推進(jin)算(suan)(suan)(suan)法(fa)(fa)(fa)治理落地(di)。他(ta)談(tan)到，算(suan)(suan)(suan)法(fa)(fa)(fa)應用(yong)誘發較多(duo)復雜問題，由(you)于算(suan)(suan)(suan)法(fa)(fa)(fa)不透明(ming)、用(yong)戶不清楚算(suan)(suan)(suan)法(fa)(fa)(fa)的(de)目標和(he)意圖，更談(tan)不上對(dui)其進(jin)行評(ping)(ping)判和(he)監督(du)，信息不對(dui)稱導(dao)致信任(ren)(ren)往往難(nan)以真正建(jian)立(li)。因此，企業在落實算(suan)(suan)(suan)法(fa)(fa)(fa)治理要求時面臨規(gui)則界定、規(gui)則理解、任(ren)(ren)務分解、任(ren)(ren)務分配、效果評(ping)(ping)估等五大(da)關鍵問題，需要一整套(tao)方法(fa)(fa)(fa)論指(zhi)引(yin)。

封面圖片來源：主(zhu)辦(ban)方供圖(tu)