每經(jing)記者｜張(zhang)祎    每經(jing)編(bian)輯(ji)｜陳星    ;

隨(sui)著生成式(shi)AI（人工智能(neng)）技術(shu)飛速發(fa)(fa)展，AI在數據分析、智能(neng)交互(hu)、效率提升等多個領(ling)域展現(xian)出巨大的應用(yong)潛(qian)力，為解決復(fu)雜(za)問題(ti)提供了新思路和新方(fang)法(fa)。但與此同時(shi)，這些技術(shu)所引發(fa)(fa)的安全(quan)性問題(ti)也變得愈發(fa)(fa)突(tu)出。

近一段時(shi)間以(yi)來，AI換臉成為(wei)詐騙新手段、美國人工智能(neng)(neng)公司OpenAI旗下大模型o3“不聽人類指令，拒絕自動(dong)關(guan)閉”等相(xiang)關(guan)新聞相(xiang)繼沖上(shang)熱搜，引起社(she)會(hui)高度關(guan)注。這些事件(jian)不僅凸顯了AI技術可能(neng)(neng)帶來的(de)風(feng)險，也(ye)引發人們對(dui)技術濫用、倫理(li)道(dao)德、隱私保(bao)護以(yi)及安全風(feng)險的(de)廣(guang)泛討(tao)論。

AI技術(shu)安(an)全性究竟存(cun)在哪些隱(yin)患？目前(qian)主要的(de)防護策(ce)略(lve)是什么？企業(ye)應怎(zen)樣(yang)應對大模(mo)(mo)型數(shu)(shu)據(ju)安(an)全領域風險(xian)？行業(ye)標準又能發(fa)揮怎(zen)樣(yang)的(de)作用？帶著一系列問(wen)題(ti)，《每(mei)日經(jing)濟新(xin)聞》記者（以下簡稱NBD）電話(hua)專訪(fang)了大模(mo)(mo)型安(an)全行業(ye)專家、螞蟻集團(tuan)大模(mo)(mo)型數(shu)(shu)據(ju)安(an)全總監楊小芳(fang)。

作(zuo)為在人工(gong)智能安(an)全(quan)(quan)領域深耕多年的(de)專家，楊(yang)小(xiao)芳深入闡(chan)釋了(le)當(dang)前AI技(ji)術的(de)安(an)全(quan)(quan)現狀以及未來發(fa)展(zhan)方向(xiang)。她(ta)指出，隨著(zhu)AI技(ji)術逐(zhu)步應(ying)用，數(shu)據(ju)隱私、安(an)全(quan)(quan)攻擊門檻降低、生成式內(nei)(nei)容(rong)濫(lan)用、AI內(nei)(nei)生安(an)全(quan)(quan)不足等(deng)風險正(zheng)逐(zhu)漸從理(li)論走向(xiang)實際(ji)。對(dui)于正(zheng)在引入和使用AI技(ji)術的(de)企(qi)業，建議做好遠期部署準備，加速內(nei)(nei)部安(an)全(quan)(quan)制度、流程(cheng)、檢(jian)測及防御技(ji)術的(de)建設(she)和發(fa)展(zhan)。

談及技(ji)術創新與風(feng)險(xian)防范該如何平衡，楊小芳強調(diao)，AI安(an)全與創新發(fa)展并非(fei)對(dui)立，而是互相成就。她介紹，面對(dui)AI安(an)全的(de)(de)風(feng)險(xian)和挑戰(zhan)，螞(ma)蟻(yi)集團(tuan)正高度關注(zhu)AI的(de)(de)安(an)全可信。“就像騎(qi)馬(ma)需要抓(zhua)牢韁(jiang)(jiang)繩，我們用可信AI這一‘韁(jiang)(jiang)繩’，來(lai)提升(sheng)駕馭(yu)大模型這匹‘馬(ma)’的(de)(de)能力，用AI來(lai)守護AI。”

大模型(xing)安(an)全(quan)行業專家、螞(ma)蟻集團大模型(xing)數(shu)據安(an)全(quan)總監楊小芳 受訪(fang)者供圖

AI內生安全不足的挑戰長期存在

NBD：目前，我國乃至全球AI安全面臨著哪些共同挑戰？

楊小芳：AI大模型(xing)剛(gang)出現時，大家(jia)更多關(guan)注(zhu)的(de)是模型(xing)生成內容(rong)的(de)風(feng)險，但隨著AI技術的(de)逐步應用，風(feng)險也逐漸從(cong)理論走(zou)向實際，需(xu)要我(wo)們(men)從(cong)多個角度進行關(guan)注(zhu)和審視。

第一是數(shu)(shu)據(ju)隱(yin)私風險。比如，訓練數(shu)(shu)據(ju)透明(ming)度(du)不足，可(ke)能(neng)會(hui)引(yin)發版權問題(ti)，這個問題(ti)亟待解(jie)決。另外，隨著大(da)模型被(bei)賦予(yu)調用(yong)各種線(xian)上服務的(de)能(neng)力，AI Agent（智能(neng)體）應運而生，但可(ke)能(neng)會(hui)越權訪問用(yong)戶數(shu)(shu)據(ju)。比如原本(ben)用(yong)戶只能(neng)訪問本(ben)人的(de)基本(ben)信息或(huo)賬單(dan)，但由于服務權限配置不當或(huo)安全性不足，可(ke)能(neng)會(hui)使(shi)得惡意用(yong)戶可(ke)以訪問其他人的(de)賬單(dan)等敏感信息。

第二是安全(quan)攻(gong)擊(ji)門檻降低(di)的問題。過去，黑客攻(gong)擊(ji)被視(shi)為一種技(ji)術(shu)密(mi)集型(xing)(xing)的安全(quan)技(ji)術(shu)，但大模(mo)型(xing)(xing)的發展帶來了(le)“智力平權化(hua)”，人(ren)們可以(yi)通(tong)過自然語(yu)言指(zhi)揮大模(mo)型(xing)(xing)執行(xing)攻(gong)擊(ji)指(zhi)令(ling)。加上AI技(ji)術(shu)快(kuai)速商(shang)業(ye)化(hua)和安全(quan)投入滯后的矛(mao)盾，進(jin)一步(bu)加大了(le)AI安全(quan)攻(gong)防(fang)對抗的難度。

第三是生成式人工智能（AIGC）濫用(yong)的社會影響(xiang)。現在大(da)家常從媒體上看到深度(du)偽造、假新聞以及利用(yong)AI制造網絡攻擊工具(ju)等信息。這些行為可能導致詐(zha)騙、網絡攻擊甚至(zhi)擾亂社會輿論，這些都是AI濫用(yong)所帶來(lai)的風險。

第四是AI內生安全不足(zu)帶來的(de)(de)行(xing)(xing)業挑(tiao)戰(zhan)。AI內生安全不足(zu)是一個(ge)長(chang)期(qi)存在(zai)的(de)(de)挑(tiao)戰(zhan)，不僅影響AI技術的(de)(de)可(ke)(ke)靠性(xing)和可(ke)(ke)信(xin)度(du)，還(huan)可(ke)(ke)能(neng)對相關行(xing)(xing)業的(de)(de)穩定(ding)和發展造(zao)成長(chang)期(qi)的(de)(de)負面影響。我們已經看到許(xu)多案例，AI可(ke)(ke)能(neng)會捏(nie)造(zao)事(shi)實或者提供錯誤(wu)信(xin)息，隨著AI在(zai)醫療、金融、科研等(deng)特定(ding)領域的(de)(de)廣(guang)泛應用，這種(zhong)“AI幻覺”可(ke)(ke)能(neng)會導致決策誤(wu)導、信(xin)任受損等(deng)問(wen)題。此(ci)外，AI可(ke)(ke)解釋性(xing)不足(zu)也可(ke)(ke)能(neng)引發決策偏見和失(shi)控等(deng)問(wen)題。

NBD：針對大模型可能引發的數據泄露風險，目前主要的防護策略是什么？

楊小芳：無論是(shi)(shi)在(zai)AI還是(shi)(shi)非AI領域，防范(fan)數據泄露風(feng)險的核(he)心策略是(shi)(shi)全生命周期的數據保(bao)護，貫穿從(cong)采集、傳輸、存儲、使用到銷(xiao)毀的全過程。在(zai)AI領域，這一概念(nian)具(ju)體映射(she)到模(mo)型的引(yin)入、訓練、微(wei)調以(yi)及智能體的開發、發布和運行等環節。

比(bi)如(ru)，在(zai)引入訓練數據(ju)時(shi)，需(xu)對數據(ju)進(jin)行(xing)掃描，去除其中的敏感信息，并對數據(ju)來源(yuan)進(jin)行(xing)標(biao)識，以(yi)(yi)便于后續溯源(yuan)；引入開源(yuan)模(mo)型時(shi)，必須進(jin)行(xing)供應鏈(lian)漏(lou)洞(dong)檢測(ce)，以(yi)(yi)避(bi)免模(mo)型中存在(zai)后門(men)，防止(zhi)因模(mo)型漏(lou)洞(dong)導致遠程操控或數據(ju)泄露。

在智(zhi)能體發(fa)布前(qian)，需進行(xing)全(quan)面的安全(quan)攻擊(ji)測(ce)試，避免(mian)用戶信息被(bei)竊(qie)取；智(zhi)能體運行(xing)過程中，也(ye)需要持續進行(xing)風險監測(ce)與對(dui)抗，及時(shi)發(fa)現并(bing)阻(zu)斷數據泄露和攻擊(ji)行(xing)為。

NBD：從現有的防護策略或手段看，是否還存在未被充分解決的盲區或挑戰？

楊小芳：要說盲區和挑戰，主(zhu)要在于供(gong)應鏈和生態風險(xian)，以及多智能體協作(zuo)風險(xian)。

AI供(gong)應鏈包括算力、模(mo)型、數據(ju)、MCP（模(mo)型上下文協議）服(fu)務(wu)等，涉及很(hen)多(duo)參(can)與者，而(er)且現在(zai)開源(yuan)組(zu)件用得特別多(duo)，這就增加了安全漏洞或鉆空子的(de)可(ke)能性。

另外(wai)，與傳統(tong)的(de)軟(ruan)件開發相(xiang)比(bi)，智(zhi)(zhi)能體開發具有“低代碼”、快速發布(bu)的(de)特點。例(li)如，通(tong)過螞蟻集團推(tui)出的(de)支(zhi)付寶百寶箱，普通(tong)用戶(hu)只需(xu)要簡單拖(tuo)拽和(he)配置(zhi)，最快可以在(zai)1分鐘內完成(cheng)一(yi)個(ge)智(zhi)(zhi)能體的(de)創建和(he)部署，所以現在(zai)新智(zhi)(zhi)能體的(de)增長速度是非常驚人的(de)。但(dan)同時(shi)，智(zhi)(zhi)能體開發及運營的(de)生態成(cheng)熟度還不足，治理較(jiao)為滯后，使得(de)安(an)全風險變大。比(bi)如，如果有惡(e)意智(zhi)(zhi)能體誘(you)導(dao)用戶(hu)去訪問釣魚網站，治理又處(chu)于真空期(qi)，那么用戶(hu)的(de)敏感信息很可能被偷(tou)走。

隨著多(duo)智能(neng)體(ti)(ti)系(xi)統的(de)(de)廣(guang)泛應用，多(duo)智能(neng)體(ti)(ti)協(xie)作(zuo)也是現在發(fa)展(zhan)的(de)(de)一個重點。不同公司(si)開(kai)發(fa)的(de)(de)智能(neng)體(ti)(ti)各自運行(xing)不同的(de)(de)策略，跨智能(neng)體(ti)(ti)協(xie)作(zuo)時需要共享(xiang)意圖數據、分派(pai)任務(wu)。當前智能(neng)體(ti)(ti)大多(duo)為各自獨立開(kai)發(fa)，這帶來了新的(de)(de)問題：如何確保智能(neng)體(ti)(ti)的(de)(de)可信(xin)性？如果缺乏可信(xin)認(ren)證機制，惡意智能(neng)體(ti)(ti)可能(neng)會(hui)通過偽造(zao)身份加入協(xie)作(zuo)鏈，導致(zhi)用戶需求被篡改或個人信(xin)息被竊(qie)取(qu)。

NBD：在構建和維護整個生態系統或協作過程中，治理主體的角色和責任如何界定？是否有相應的責任分配和約束機制來確保治理的有效性和公平性？

楊小芳：在允許多方甚至C端（個(ge)人用戶端）用戶開發智能體(ti)的平臺(tai)環(huan)境中，平臺(tai)方無(wu)疑是能夠實施一線管控(kong)和治理(li)的關鍵主體(ti)。

平臺方提供了大模型服務(wu)、插件工(gong)具等基礎(chu)架(jia)構，使(shi)得普通用戶能(neng)(neng)夠基于其平臺構建(jian)智(zhi)能(neng)(neng)體(ti)。因此，平臺方具備充分的(de)權限對在其平臺上開發的(de)智(zhi)能(neng)(neng)體(ti)進(jin)行(xing)掃(sao)描和治理。可以說(shuo)，平臺方是能(neng)(neng)夠開展諸多治理工(gong)作(zuo)的(de)首要主體(ti)。

但(dan)是，平(ping)臺(tai)(tai)(tai)(tai)方只能管(guan)控(kong)在自身平(ping)臺(tai)(tai)(tai)(tai)上(shang)開發的(de)(de)(de)智能體，而(er)在實際應(ying)用中，還存在大量(liang)跨平(ping)臺(tai)(tai)(tai)(tai)的(de)(de)(de)服務，所以治(zhi)理(li)工作也不能僅依(yi)賴于平(ping)臺(tai)(tai)(tai)(tai)方的(de)(de)(de)自律，還需(xu)要(yao)政(zheng)府或監管(guan)層面的(de)(de)(de)介入，需(xu)要(yao)國家(jia)層面的(de)(de)(de)標(biao)準以及監管(guan)政(zheng)策來監控(kong)、監督和約束平(ping)臺(tai)(tai)(tai)(tai)發展。這(zhe)與小程(cheng)序的(de)(de)(de)監管(guan)類似，盡管(guan)各家(jia)企業都有自己的(de)(de)(de)小程(cheng)序平(ping)臺(tai)(tai)(tai)(tai)，但(dan)監管(guan)方仍會制(zhi)定標(biao)準和監管(guan)指令，以更好地約束和治(zhi)理(li)小程(cheng)序生態。

AI風險控制不應“一刀切”

NBD：在大模型數據安全領域，當前最需要關注的風險點是什么？企業和行業應該如何未雨綢繆？

楊小芳：我覺得，當前需要關注的風險主要有三點：

一(yi)是多樣(yang)化的(de)AI服(fu)務(wu)安全“水位(wei)”不(bu)一(yi)致。比如，大(da)量傳統業務(wu)服(fu)務(wu)包裝為(wei)大(da)模型(xing)可(ke)調用的(de)工具后，原(yuan)服(fu)務(wu)的(de)安全加固可(ke)能失(shi)效，這(zhe)個需要特別關注。

二是企業內數據(ju)流轉控制經受挑戰(zhan)。比(bi)如(ru)，原(yuan)內部知識(shi)庫的權限管(guan)控在(zai)掛載到智能(neng)體后可(ke)能(neng)失效，導致原(yuan)來只能(neng)特定(ding)部門訪問的文檔庫變成對所(suo)有人可(ke)見(jian)。

三(san)是新型(xing)大模型(xing)安全攻擊。比如(ru)，利用大模型(xing)指令遵從特性(xing)，針對(dui)AI服務開(kai)展新型(xing)安全攻擊、竊取(qu)用戶數據或造成服務不可(ke)用。

對于一般企(qi)業來說，做好(hao)安(an)(an)(an)(an)全工作，可能并(bing)不是(shi)買一個(ge)安(an)(an)(an)(an)全產品，安(an)(an)(an)(an)裝后立馬“包治(zhi)百病(bing)”，而是(shi)需要有(you)一個(ge)“戰線”相對較遠期的部(bu)署，否(fou)則很(hen)容易就會失效。因此，在快速引(yin)(yin)入(ru)和使用AI技術(shu)的同時(shi)，企(qi)業應(ying)(ying)加(jia)速內(nei)部(bu)安(an)(an)(an)(an)全制(zhi)度、流程、檢測(ce)和防御技術(shu)的建(jian)設與發展。在安(an)(an)(an)(an)全建(jian)設尚(shang)未完善的初(chu)期，應(ying)(ying)當(dang)加(jia)強模型及(ji)數據引(yin)(yin)入(ru)的安(an)(an)(an)(an)全審查，并(bing)落實(shi)AI服務(wu)對外(wai)開放前的安(an)(an)(an)(an)全測(ce)試(shi)，以盡可能避(bi)免(mian)外(wai)部(bu)攻(gong)擊或供應(ying)(ying)鏈風險帶來的直(zhi)接影響。

NBD：在保護用戶隱私的同時，如何確保AI服務的高效性和用戶體驗？

楊小芳：我覺(jue)得這(zhe)主要涉及兩個方面。

第(di)一(yi)(yi)個方(fang)面是風險控(kong)制，無論用(yong)戶體(ti)驗(yan)或效(xiao)率如何(he)，守住底(di)線一(yi)(yi)定是基礎(chu)。這其中又包括兩個關鍵步驟，一(yi)(yi)是精準(zhun)定位問題，二是采取有效(xiao)的(de)(de)管(guan)控(kong)手段。在定位問題上，我們(men)應追求(qiu)更(geng)精細化的(de)(de)策略，采用(yong)更(geng)靈活、更(geng)柔性的(de)(de)方(fang)式，結合用(yong)戶提問意圖來(lai)定性風險。另外，管(guan)控(kong)手段也應更(geng)豐富，采用(yong)更(geng)先(xian)進的(de)(de)隱私保護技術，而不是簡單(dan)地用(yong)攔截等“一(yi)(yi)刀切”的(de)(de)策略。

以用(yong)(yong)戶隱私保護為例，當模型輸(shu)(shu)出(chu)中包含個人(ren)敏感(gan)信(xin)息時(shi)，傳統(tong)的(de)風(feng)險(xian)控制方(fang)式可能是(shi)直接攔(lan)截，但(dan)這種(zhong)做法缺乏精細化。比如(ru)，如(ru)果用(yong)(yong)戶主(zhu)動提(ti)供(gong)個人(ren)信(xin)息，目(mu)的(de)是(shi)為了生(sheng)成(cheng)個人(ren)簡歷(li)，那么這種(zhong)信(xin)息輸(shu)(shu)出(chu)實際上是(shi)用(yong)(yong)戶的(de)需求，而非(fei)風(feng)險(xian)。更合理的(de)方(fang)式是(shi)結合用(yong)(yong)戶提(ti)問的(de)意圖(tu)，來(lai)準(zhun)確判斷是(shi)否構成(cheng)風(feng)險(xian)，并選(xuan)擇不(bu)同的(de)處(chu)理手段。

第二個方面(mian)是如何提升服(fu)務(wu)的高效性和用(yong)戶體驗。在恰當的場(chang)景下，我們不(bu)一定需要進行(xing)嚴格的風險控制，而是可以(yi)通過(guo)服(fu)務(wu)引導來(lai)滿足用(yong)戶需求，讓AI服(fu)務(wu)回歸服(fu)務(wu)用(yong)戶的目的。

例如(ru)(ru)，當用戶(hu)(hu)詢問(wen)如(ru)(ru)何在(zai)某地(di)出行、如(ru)(ru)何訂(ding)酒店等問(wen)題時，模型可能會根據其訓練數據或檢索(suo)結果提(ti)供一些(xie)(xie)信息。這些(xie)(xie)信息中可能包含(han)一些(xie)(xie)營(ying)銷性(xing)質(zhi)的(de)內容。在(zai)這種情(qing)況下(xia)，與其進行攔(lan)截，不如(ru)(ru)采(cai)用更(geng)積極的(de)策(ce)(ce)略(lve)，引(yin)導(dao)用戶(hu)(hu)使(shi)用官(guan)方服(fu)務(wu)入(ru)口，這種服(fu)務(wu)引(yin)導(dao)策(ce)(ce)略(lve)比簡單的(de)攔(lan)截更(geng)能滿足用戶(hu)(hu)需求，提(ti)升(sheng)用戶(hu)(hu)體驗。

NBD：面對AI帶來的挑戰和風險，螞蟻集團是如何應對的？有哪些可供分享的具體實踐經驗？

楊小芳：針(zhen)對(dui)AI帶來的(de)挑戰，我們一(yi)(yi)方面加強科技倫理建設，成立了(le)科技倫理委員會(hui)，堅(jian)持“平等、尊重、可信、負責”的(de)AI發展原則。另一(yi)(yi)方面，高度關注AI的(de)安全可信，就像騎馬需要抓牢韁(jiang)繩，我們用可信AI這(zhe)一(yi)(yi)“韁(jiang)繩”，來提升駕(jia)馭大(da)模型這(zhe)匹“馬”的(de)能力(li)，用AI來守護(hu)AI，確(que)保大(da)模型這(zhe)匹“馬”跑(pao)得快、跑(pao)得好。

基(ji)于這樣的(de)(de)理念，螞蟻集團在2023年研(yan)發(fa)推(tui)出了全風險覆蓋、攻防一體的(de)(de)大模(mo)型安(an)全解決方案“蟻天(tian)鑒(jian)”。

“蟻天(tian)鑒(jian)”包括(kuo)兩套能(neng)力。其中(zhong)一個是大模(mo)型(xing)安全檢測平臺，這也是國(guo)內第一款實(shi)(shi)現工業級應用(yong)的(de)可信AI檢測平臺，它可以被理解為(wei)“大模(mo)型(xing)的(de)體檢師(shi)”，特(te)點是“以攻促防”，實(shi)(shi)現了(le)以生(sheng)成(cheng)(cheng)式能(neng)力檢測生(sheng)成(cheng)(cheng)式系統，好比(bi)生(sheng)成(cheng)(cheng)式考官考核生(sheng)成(cheng)(cheng)式運(yun)動員，背后是左右(you)互搏的(de)對抗學(xue)習。

還有一(yi)個是大(da)模(mo)型風險防御平臺，可(ke)以(yi)理解為(wei)“大(da)模(mo)型的(de)防護(hu)欄”，貫穿于大(da)模(mo)型訓練(lian)應用的(de)全(quan)生命周期。在(zai)(zai)模(mo)型訓練(lian)部署階段采取內生安全(quan)防控(kong)，在(zai)(zai)模(mo)型服務(wu)階段提供外(wai)置護(hu)欄，在(zai)(zai)AIGC內容傳播階段通過(guo)AIGC標(biao)識和(he)檢(jian)測來保障內容在(zai)(zai)可(ke)控(kong)范圍內傳播，并保證內容可(ke)追溯、可(ke)鑒真。

目(mu)前，“蟻(yi)天鑒(jian)”的檢測與防御產(chan)品已(yi)經開放(fang)給了數(shu)十家外(wai)部機構(gou)和(he)企業(ye)使用，用來保護(hu)通用大模型(xing)及醫療、金融(rong)、政務等(deng)垂直領域行業(ye)大模型(xing)應用安(an)全。

NBD：在你看來，大模型數據安全應該是一種技術保障，還是一種戰略競爭力？

楊小芳：我覺(jue)得(de)兩者(zhe)兼而(er)有之。即(ji)使在過去數字時代，數據安全也一直具備雙重(zhong)屬性，既是技術保(bao)障也是戰略競爭力。

數(shu)(shu)據(ju)(ju)(ju)(ju)是(shi)(shi)模(mo)型開發的(de)核心要(yao)素，顯著影響模(mo)型輸出的(de)質量。同(tong)時，數(shu)(shu)據(ju)(ju)(ju)(ju)是(shi)(shi)智能(neng)體重要(yao)價值載體，它讓(rang)模(mo)型從理解和規劃走向為用戶在真實(shi)環境中執行任務。無論是(shi)(shi)強(qiang)化企(qi)業的(de)數(shu)(shu)據(ju)(ju)(ju)(ju)安全(quan)性(xing)，還是(shi)(shi)抵御外部攻擊、防范數(shu)(shu)據(ju)(ju)(ju)(ju)泄(xie)露(lu)，技術保障(zhang)(zhang)的(de)作用毋(wu)庸置(zhi)疑。所以(yi)，大模(mo)型數(shu)(shu)據(ju)(ju)(ju)(ju)安全(quan)首先是(shi)(shi)一個重要(yao)的(de)技術保障(zhang)(zhang)，以(yi)實(shi)現大模(mo)型和智能(neng)體的(de)安全(quan)可信(xin)。

同(tong)時，從歐盟(meng)的(de)《通(tong)用數(shu)據(ju)(ju)保(bao)(bao)護(hu)(hu)條例(li)》（GDPR）、美國(guo)加州的(de)《加州消費者隱(yin)私法案》（CCPA）、中國(guo)的(de)數(shu)據(ju)(ju)安全法、個人信(xin)息保(bao)(bao)護(hu)(hu)法等都可看出，數(shu)據(ju)(ju)安全標準的(de)制定和推廣一直是世(shi)界各國(guo)在數(shu)據(ju)(ju)主權和治(zhi)理話語權上競(jing)爭的(de)重要領域。

去年，新加坡政府發(fa)布(bu)了《生(sheng)成(cheng)式人工智能治(zhi)(zhi)理模型(xing)框架(jia)》，強(qiang)(qiang)調(diao)了數據(ju)在(zai)生(sheng)成(cheng)式AI中的(de)核心(xin)作用，試圖(tu)主導區(qu)域(yu)治(zhi)(zhi)理規則。在(zai)中國(guo)，全(quan)國(guo)網絡安(an)全(quan)標準化技(ji)術委員會也發(fa)布(bu)了《人工智能安(an)全(quan)治(zhi)(zhi)理框架(jia)》1.0版，強(qiang)(qiang)調(diao)構建全(quan)球共識。AI安(an)全(quan)治(zhi)(zhi)理框架(jia)的(de)建立和(he)影響，包括(kuo)數據(ju)安(an)全(quan)治(zhi)(zhi)理，這些(xie)布(bu)局就是(shi)打造戰略競爭力(li)的(de)一種體現。

行業標準是構建安全生態的基礎框架

NBD：你如何看待AI安全的未來發展趨勢？

楊小芳：如果看(kan)AI安全的未來發展，我覺得主要有三種路(lu)徑：

一是將安全能(neng)(neng)力嵌入(ru)AI基礎(chu)設施(shi)，打造“出(chu)廠即安全”，在應(ying)用(yong)環節減少對(dui)(dui)安全的投入(ru)。這樣有(you)個好(hao)(hao)處，就(jiu)是可以用(yong)更低的成本去提升大(da)模型內生(sheng)安全，讓大(da)模型自身就(jiu)能(neng)(neng)很好(hao)(hao)地去增強抵御“幻(huan)覺”或攻防對(dui)(dui)抗的能(neng)(neng)力，從而減少在應(ying)用(yong)環節的投入(ru)。

二(er)是特(te)定安(an)(an)全(quan)技術的突破，實(shi)現(xian)安(an)(an)全(quan)技術“拿(na)來即(ji)用(yong)”，解(jie)決中小(xiao)企(qi)業(ye)在應用(yong)AI技術方面(mian)面(mian)臨的安(an)(an)全(quan)風險。比(bi)(bi)如，在AIGC生成圖片、生成視頻的時(shi)候，嵌入安(an)(an)全(quan)可(ke)靠的數字水印，就(jiu)能(neng)實(shi)現(xian)安(an)(an)全(quan)溯源(yuan)。再比(bi)(bi)如，智能(neng)體會用(yong)到各種各樣的知(zhi)識(shi)庫(ku)，為避免這些知(zhi)識(shi)產權被(bei)竊取，未來可(ke)能(neng)需(xu)要重點去突破專業(ye)知(zhi)識(shi)庫(ku)隱(yin)私保護(hu)技術，以實(shi)現(xian)智能(neng)體“可(ke)用(yong)不可(ke)見”。

三是AI安(an)全(quan)(quan)治理，從企業層(ceng)面(mian)(mian)到社會層(ceng)面(mian)(mian)，都需要開展生(sheng)成式(shi)AI的(de)數據治理。其中需要關注一些核(he)心點，比如提高數據使用的(de)透(tou)明度、防(fang)范深度偽造以及AI對公(gong)眾認(ren)知帶(dai)來的(de)危害、健全(quan)(quan)創(chuang)新(xin)激(ji)勵與問責(ze)機制等。

NBD：在AI安全與創新發展之間，應如何制定動態平衡的決策框架？

楊小芳：AI安全與創新發展不是對立的，而是互相成(cheng)就。

一(yi)方面，安(an)(an)全(quan)需要更新(xin)(xin)對新(xin)(xin)興技(ji)術的(de)認知，基于新(xin)(xin)技(ji)術進行威脅研判并調整安(an)(an)全(quan)防御方式和“水位”，進一(yi)步利用(yong)(yong)AI對抗AI，靈活運用(yong)(yong)創新(xin)(xin)技(ji)術升級(ji)AI安(an)(an)全(quan)。例(li)如，在最近的(de)RSAC大(da)會（全(quan)球網絡安(an)(an)全(quan)領域備受關注的(de)年度盛會）上(shang)，思科開(kai)(kai)源了它(ta)的(de)安(an)(an)全(quan)大(da)模(mo)型，這是一(yi)個擁有80億個參數的(de)大(da)型語言模(mo)型，專門為安(an)(an)全(quan)而構建。應用(yong)(yong)大(da)模(mo)型技(ji)術是當(dang)下各(ge)大(da)企業(ye)都在緊(jin)鑼密鼓開(kai)(kai)展的(de)工作(zuo)，包括螞蟻集團在內，AI可(ke)以(yi)加速防御，幫(bang)助安(an)(an)全(quan)在復(fu)雜(za)的(de)威脅環境中獲得清晰度。

另一方面，安全(quan)(quan)可信的(de)AI可以(yi)促進(jin)新興技(ji)術(shu)更(geng)廣泛、快速地(di)應用(yong)，從而進(jin)一步促進(jin)技(ji)術(shu)的(de)發(fa)展，讓公眾(zhong)更(geng)無后顧之(zhi)憂。比(bi)如，特斯拉利用(yong)大量真實行駛數據優化安全(quan)(quan)功能，降低事故(gu)概率(lv)，而更(geng)高的(de)安全(quan)(quan)性(xing)又(you)能帶來更(geng)大的(de)用(yong)戶群(qun)，這是相輔(fu)相成的(de)。

NBD：你認為未來在推動AI安全發展過程中，行業標準將發揮怎樣的作用？

楊小芳：在推(tui)動AI安全發展的進程中，行業標(biao)準不僅是(shi)技術實踐的指南，更(geng)是(shi)構建安全生態的基礎框架，重要性不言而喻。

通過(guo)統(tong)一技術規范、協(xie)調多方利益、引(yin)導合(he)規創新，行業(ye)標準(zhun)在防范風險、促進技術落地和提(ti)升產業(ye)競爭力中可(ke)以發(fa)揮(hui)關(guan)鍵作用。此(ci)外(wai)，制定開源標準(zhun)，提(ti)供測評工具(ju)，對于投入(ru)有限的中小(xiao)企業(ye)來說，有助(zhu)于降低(di)它們的門檻，使其以較低(di)的成本快速獲取安全知識(shi)并(bing)提(ti)升自身安全水平，從而提(ti)升整(zheng)個(ge)生態的安全“水位”。

實際(ji)(ji)上，近(jin)幾年，隨著大模型AI的興起，螞蟻集團(tuan)也(ye)積極參與(yu)了AI治(zhi)理(li)、安(an)全風(feng)險管理(li)等領域的國(guo)(guo)內(nei)外(wai)標(biao)準(zhun)(zhun)制定(ding)工作。在AI安(an)全標(biao)準(zhun)(zhun)方(fang)面(mian)，我們參與(yu)制定(ding)的AI治(zhi)理(li)、安(an)全風(feng)險管理(li)、科(ke)技倫(lun)理(li)等國(guo)(guo)內(nei)及國(guo)(guo)際(ji)(ji)相關標(biao)準(zhun)(zhun)共(gong)計80余項(xiang)，已發布30余項(xiang)。今年在智能體(ti)安(an)全方(fang)面(mian)也(ye)將有新(xin)的發布。

我(wo)們(men)希望通過這些努(nu)力(li)，一方面(mian)將(jiang)在(zai)實(shi)踐中行之有效的做法推廣到行業(ye)內；另一方面(mian)，通過輸出我(wo)們(men)在(zai)安全(quan)領域(yu)的經驗，促進(jin)行業(ye)內形成(cheng)共(gong)識，推動在(zai)規范框(kuang)架下的更高(gao)效、更有意義的創新(xin)。

封(feng)面圖(tu)片來(lai)源(yuan)：受訪(fang)者供圖(tu)