每(mei)經記者｜唐俊    每(mei)經編輯｜劉艷美(mei)

“隨著技(ji)術(shu)不斷(duan)更新(xin)迭代，大模型的應用(yong)(yong)門檻持續降低，無處不在(zai)的數(shu)據(ju)(ju)和算法在(zai)推動發展的同時，也帶來了(le)新(xin)的挑戰，比如個人數(shu)據(ju)(ju)泄露、虛假(jia)新(xin)聞、誤用(yong)(yong)濫用(yong)(yong)等安全風(feng)險。”8月29日，在(zai)2024年中(zhong)國(guo)網(wang)絡文明(ming)大會(hui)人工智(zhi)能分論壇上，中(zhong)央(yang)網(wang)信辦(ban)、國(guo)家網(wang)信辦(ban)總工程師孫蔚敏說。

生成式人工(gong)智能正在快速發展，與此同時，相(xiang)關的安全問題(ti)也越(yue)來越(yue)突(tu)出。

圖片(pian)來源：每(mei)經(jing)記者 唐俊 攝

生成式人工智能快速發展

2022年底，ChatGPT橫空出世，出色的對話和理解能(neng)(neng)力，點燃了人們對于生成式(shi)人工智(zhi)(zhi)(zhi)能(neng)(neng)的熱情。生成式(shi)人工智(zhi)(zhi)(zhi)能(neng)(neng)背后，是具有大(da)量參數的人工智(zhi)(zhi)(zhi)能(neng)(neng)模(mo)型(xing)，也就(jiu)是常說(shuo)的大(da)模(mo)型(xing)。

2023年，中(zhong)國科(ke)技(ji)圈開啟“百模大(da)戰”，包括百度(du)、阿里、騰(teng)訊、華為、字節(jie)跳動(dong)等大(da)型科(ke)技(ji)公(gong)司(si)以及月之(zhi)暗面等創業企業，紛(fen)紛(fen)推出自己的中(zhong)文大(da)模型。

2024年初，OpenAI推出的Sora再(zai)次經(jing)驚艷公眾，Sora可(ke)以根據文字描述生成(cheng)極其真實的視頻畫面。之后，快手旗(qi)下(xia)的可(ke)靈(ling)大模型在(zai)海外走(zou)紅，可(ke)靈(ling)同樣可(ke)以生成(cheng)真實的視頻畫面。

短(duan)(duan)短(duan)(duan)兩年(nian)時(shi)間，中國(guo)(guo)大模(mo)型(xing)數(shu)量快(kuai)速上升(sheng)，并且已(yi)經影響科技圈之外(wai)的(de)各個(ge)行(xing)業。截(jie)至目前，我國(guo)(guo)完成備案(an)并上線、能為公眾(zhong)提供服(fu)務的(de)生(sheng)成式人(ren)工智能服(fu)務大模(mo)型(xing)已(yi)達190多個(ge)，注冊(ce)用(yong)戶數(shu)超過(guo)6億。

在大會舉辦(ban)地成(cheng)都(dou)(dou)(dou)，人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)產(chan)(chan)業也在快速發(fa)(fa)展。《每日經濟(ji)新聞》記(ji)者從現場了解到，成(cheng)都(dou)(dou)(dou)已有(you)5個(ge)大模(mo)型(xing)通過國家網信辦(ban)備案，全國首(shou)個(ge)人(ren)形機器人(ren)任務生成(cheng)式模(mo)型(xing)在成(cheng)都(dou)(dou)(dou)誕生。2024年(nian)上(shang)半年(nian)，成(cheng)都(dou)(dou)(dou)人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)核心產(chan)(chan)業規模(mo)562億元、同比(bi)增長32.6%。為(wei)支持人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)產(chan)(chan)業發(fa)(fa)展，最近，成(cheng)都(dou)(dou)(dou)還舉辦(ban)金融賦(fu)能(neng)(neng)(neng)人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)企業產(chan)(chan)融對接會，會上(shang)發(fa)(fa)布(bu)688戶(hu)人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)企業首(shou)批預授信白(bai)名(ming)單，預授信總額(e)度105.5億元，成(cheng)都(dou)(dou)(dou)銀(yin)行(xing)等(deng)金融機構為(wei)人(ren)工(gong)(gong)智(zhi)(zhi)能(neng)(neng)(neng)發(fa)(fa)展提供支持。

與此同時，孫(sun)蔚敏表示(shi)，目前中(zhong)央網信辦(ban)正通(tong)過共(gong)建(jian)共(gong)享機制(zhi)激勵企業貢獻部(bu)分(fen)語(yu)料，集成首(shou)批(pi)1.2G中(zhong)文(wen)語(yu)料和(he)600G中(zhong)文(wen)開源互聯網語(yu)料，并公開發布(bu)。

不過(guo)中國科學院科技基礎能力局副局長曾大(da)軍在論壇上談到，目前各行各業對于大(da)模型(xing)的認(ren)識存在兩個(ge)誤(wu)區：一是“神話(hua)”大(da)模型(xing)，不過(guo)現(xian)在大(da)家已經慢(man)慢(man)認(ren)識到大(da)模型(xing)也有缺陷；二是大(da)模型(xing)只是一個(ge)工具，但實際上需要與業務深度(du)結合。

曾大(da)(da)軍認(ren)為，大(da)(da)模(mo)型不只是一個產品，而(er)是一套技術體系，對(dui)大(da)(da)模(mo)型應該有更立體的理(li)解(jie)。

針對大模(mo)(mo)型發展，孫蔚敏表示，要充分發揮我國超大規模(mo)(mo)市場優(you)勢，探索開發全(quan)新的應(ying)(ying)用(yong)(yong)場景和賦能(neng)(neng)模(mo)(mo)式(shi)，促進生成式(shi)人工智(zhi)(zhi)能(neng)(neng)技術在工業、農業、教(jiao)育、醫療、衛(wei)生等各個領(ling)域落地(di)應(ying)(ying)用(yong)(yong)，合力(li)推動人工智(zhi)(zhi)能(neng)(neng)在傳統(tong)行業領(ling)域應(ying)(ying)用(yong)(yong)取得更大的突破。

安全問題如何保證？

“大(da)模(mo)型和人工智能(neng)技術(shu)，對(dui)整(zheng)個科(ke)技發展(zhan)和社會進步帶來深遠的影響，無疑是一(yi)(yi)場巨大(da)的革命(ming)，但同時它(ta)也帶來一(yi)(yi)些對(dui)于安全和治理的思考。”中央(yang)廣播(bo)電(dian)視(shi)總(zong)臺技術(shu)局(ju)數據應(ying)用部主任梅劍平在(zai)論壇上說(shuo)。

梅劍平認為，對于(yu)一個不知道未來會發展到什么(me)程度、達(da)到什么(me)能力(li)的(de)新技術(shu)，思考其潛(qian)在的(de)風險(xian)是非(fei)常重要的(de)。

而對(dui)于大(da)模型的(de)(de)安(an)全(quan)(quan)問題(ti)，四川(chuan)大(da)學網絡(luo)(luo)空間安(an)全(quan)(quan)學院院長、教授陳興(xing)蜀(shu)，已經有了許多思考。陳興(xing)蜀(shu)對(dui)《每日經濟新聞》記者(zhe)表示，她所關注的(de)(de)是(shi)兩(liang)方面的(de)(de)安(an)全(quan)(quan)，一是(shi)人工(gong)智能自身(shen)的(de)(de)安(an)全(quan)(quan)，另外(wai)是(shi)如(ru)何利用人工(gong)智能來防護網絡(luo)(luo)安(an)全(quan)(quan)。

陳興蜀提到，大模(mo)型數萬(wan)億的(de)(de)參數、深(shen)層次(ci)的(de)(de)網絡結(jie)構，導致模(mo)型的(de)(de)可(ke)解(jie)釋性非常差。“就是(shi)說我(wo)們輸入進去(qu)以后，不知道它到底會輸出什么，模(mo)型可(ke)解(jie)釋性實際(ji)上(shang)目前是(shi)業(ye)界的(de)(de)難點。”

于(yu)是有人利用(yong)這個(ge)特點對模型展開(kai)攻擊。陳興蜀舉例，自(zi)動(dong)駕(jia)駛車(che)輛上的(de)模型可(ke)以(yi)識別道路信(xin)息，當出現(xian)停止路標時(shi)車(che)輛會停下來，但(dan)如果(guo)給該模型加入擾動(dong)，人工(gong)智能可(ke)能作出相反(fan)的(de)判斷(duan)，從而產生危險的(de)后(hou)果(guo)。如果(guo)類似的(de)事情出現(xian)在(zai)重點行業(ye)里，會產生非常(chang)大的(de)影響。

大模型訓(xun)練會使(shi)用億級的(de)數(shu)據量，如何保證個人隱私也是(shi)(shi)公眾關注的(de)焦點。陳興蜀對《每日經濟新聞(wen)》記者表(biao)示，由于大模型的(de)解釋性差，并不知(zhi)道中間到底存(cun)了什么信息。她認為(wei)，給模型輸入數(shu)據的(de)時(shi)候規避(bi)掉涉(she)及(ji)個人隱私的(de)信息，是(shi)(shi)解決(jue)途徑(jing)之一。

另外，陳興蜀團(tuan)隊也(ye)在研究，如何通過人(ren)工智能來提升網絡上的(de)自動化攻防(fang)對抗能力。她舉例(li)，四(si)川大學一個wap設(she)備(bei)每天產生的(de)安(an)全告警(jing)日志達(da)到(dao)百萬(wan)級(ji)，由于數據量非常(chang)大，導致這些日志無(wu)人(ren)查看(kan)。但人(ren)工智能出現后，可以(yi)利用AI去閱讀日志以(yi)提升網絡安(an)全。

2023年7月(yue)，國家網信(xin)辦(ban)會同相關(guan)部門發布(bu)《生(sheng)成式人工智能服務管理暫行辦(ban)法(fa)》，在全球范圍內率先開展立法(fa)，對數(shu)據使用(yong)、算法(fa)設計、價(jia)值導向(xiang)提出要(yao)求，為行業健康發展提供支撐。

孫蔚敏在論壇上表示，未來將優化大模型(xing)備案的(de)流程，加(jia)強生成(cheng)、合成(cheng)內容的(de)標識管理，在分級分類、安(an)全(quan)(quan)測試、應急響應等方面(mian)豐富完善安(an)全(quan)(quan)標準體系，引導推動大模型(xing)提升安(an)全(quan)(quan)能力，確保人工智能始終朝(chao)著安(an)全(quan)(quan)可靠(kao)的(de)方向發展(zhan)。