每經(jing)記者｜文巧    每經(jing)編輯(ji)｜王月龍 蘭素英(ying) 易(yi)啟(qi)江     

3月29日(ri)，上千科技大佬發出(chu)的一封(feng)呼(hu)吁暫停訓(xun)練比GPT-4更強大AI系(xi)統的公(gong)開信，讓有(you)關AI風險的議題走到了聚光燈下。一石激起千層浪(lang)，來(lai)自各(ge)方呼(hu)吁AI監管的聲音也變得(de)越來(lai)越響亮。3月31日，意大利率先禁止使用ChatGPT。

一方(fang)面(mian)是各國機構(gou)在(zai)加緊制定(ding)關于AI的(de)監管措施(shi)，另一方(fang)面(mian)，AI也正在(zai)以超乎人類想象的(de)速度發展著。3月28日，據外媒報道，比利時三十歲男子在與(yu)一個名為ELIZA的(de)聊天機器人密(mi)集交流數周(zhou)后自(zi)殺身亡。自ChatGPT發布(bu)以來，從新版(ban)必(bi)應翻車(che)到GPT-4被曝制定外逃計劃(hua)，關(guan)于AI產生自我意識的討論已經屢見(jian)不鮮，但一直沒有定論。

然而近日(ri)，包括OpenAI的首席(xi)執行官(guan)Sam Altman在內的大(da)佬都發出了警示：AI消(xiao)滅人類并非空談。3月28日，360集團創(chuang)始人周(zhou)鴻祎也表示，“AI一定會產生自我意識，留給人類的時間不多了。”

電(dian)影《機械公(gong)敵》劇(ju)照。來源：豆瓣

GPT-4的(de)出現(xian)已注定多(duo)模態是(shi)大型(xing)語言模型(xing)的(de)發展(zhan)方向，未來其賦能硬(ying)件、機器人、工業互聯網等的(de)趨勢也(ye)已是(shi)許多(duo)業內人士的(de)共識(shi)。硅基生物(wu)的(de)時代就此來臨了(le)嗎？

AI離自主意識(shi)還有多遠？

自ChatGPT發布以(yi)來，關于(yu)AI產生自我(wo)意(yi)識的討論已經屢見不(bu)鮮，但一直沒有(you)定論。

3月18日，斯坦福大學教授在推特上疾呼：“我擔心我們無法持久地遏制住AI。”因為他發現，ChatGPT能引誘(you)人(ren)類(lei)提供開發文檔，30分(fen)鐘就(jiu)擬定出了一個完整計劃(hua),寫的代碼完全可(ke)運行(xing)，甚至還想控制(zhi)人(ren)類(lei)電腦。

圖片來源：推特截圖

3月28日(ri)，據外媒報道，比利時(shi)三十歲(sui)男子在與(yu)一個(ge)名為(wei)ELIZA的聊(liao)天機器人密集交(jiao)流(liu)數周后自殺身亡(wang)，ELIZA是由EleutherAI開發的(de)開源人工智能語言(yan)模型。比利時(shi)負責(ze)數(shu)字化和隱私的(de)官員稱，這(zhe)是一個后果很嚴(yan)重的(de)先例，需要(yao)嚴(yan)肅對(dui)待，這(zhe)起(qi)事件(jian)突出表明(ming)(ming)“明(ming)(ming)確界定責(ze)任是至關重要(yao)的(de)”。

更(geng)早之前(qian)，在微軟剛剛發布新版必應時(shi)，《紐約時(shi)報(bao)》科技專欄作家(jia)Kevin Roose透(tou)露，他與新版必應進行了兩個小時(shi)的(de)對話(hua)。在聊天過程中，必應發表了許多令人不安的(de)言論，其中包括表達竊取核代碼、設計致命流行病、想成為人類、破解計算機和散布謊言的想法。必(bi)(bi)應還曾試圖說服Roose，他(ta)應該離開(kai)他(ta)的妻(qi)子而跟必(bi)(bi)應在一起，并告訴Roose很愛他(ta)。

圖片來源：推特截圖

不過當時的分析普遍(bian)表示，必應的回應反(fan)映了它經歷(li)的訓練數據，其(qi)中(zhong)(zhong)就(jiu)包括大(da)量(liang)的在(zai)線對話(hua)。它的工作原(yuan)理是，根(gen)據從互聯網上攝取的大(da)量(liang)文本，預測對話(hua)中(zhong)(zhong)接下(xia)來應該自然出現的單詞、短語或句(ju)子。

然而，近(jin)期隨著更強大(da)的(de)GPT-4的(de)發(fa)布，事情開始變得不一樣了。就(jiu)連OpenAI的首席(xi)執(zhi)行(xing)官(guan)Sam Altman也有了一(yi)些耐人尋(xun)味的表達(da)，他在(zai)接受采訪時(shi)表示(shi)，未來AI確實可能殺死人類。

而(er)有(you)如此石破天驚言論的并非Sam Altman一人(ren)，被(bei)稱為“人(ren)工智能教父”Geoffrey Hinton在近期發(fa)出了警示：AI消滅人(ren)類并非空(kong)談。

3月28日，360集團創始人周鴻祎也表示，“AI一定會產生自我意識，留給人類的時間不多了。”

“當AI能自己修(xiu)改自己的代碼，（進行）自我(wo)升(sheng)級、自我(wo)進化時，這種速度恐怕用(yong)指(zhi)數(shu)級都很難(nan)描(miao)述。我認為(wei)GPT一(yi)定會產(chan)生意識(shi)，只是差(cha)別是在GPT-6、GPT-8還是GPT-10。”

多模態模型(xing)賦能

硅基生物的(de)時代來了？

為什么(me)突然(ran)之間連(lian)Sam Altman也開始談論(lun)“AI可能殺死人類”了？

周鴻祎將AI意識(shi)的(de)(de)產(chan)生類(lei)比(bi)人(ren)腦(nao)意識(shi)的(de)(de)產(chan)生。“人(ren)類(lei)是怎么產(chan)生意識(shi)的(de)(de)呢？隨著大腦(nao)神經元數(shu)目的(de)(de)增加，大腦(nao)與(yu)神經網絡連接的(de)(de)增加，到一定時候，系(xi)統會出(chu)現一種(zhong)功(gong)能叫(jiao)做(zuo)‘涌現’，很(hen)多智能功(gong)能就出(chu)現了(le)，那么意識(shi)也就隨之而出(chu)現。”

在(zai)周鴻祎看來，“現在(zai)大型(xing)語言模型(xing)的參數就可以看作是腦(nao)容量(liang)里神經網絡的連接數，人腦的至少是(shi)100萬(wan)(wan)億，現在（模型(xing)）的參數(shu)只達到千億、萬(wan)(wan)億，但當參數(shu)到達10萬(wan)(wan)億時，可(ke)能意(yi)識就自動產生了(le)。”GPT-1有(you)(you)(you)1.17億參(can)(can)數(shu)，GPT-2有(you)(you)(you)15億參(can)(can)數(shu)，GPT-3有(you)(you)(you)1750億參(can)(can)數(shu)。隨著參(can)(can)數(shu)規模(mo)越(yue)來(lai)越(yue)大，模(mo)型存儲(chu)的(de)信息(xi)越(yue)來(lai)越(yue)多，也就有(you)(you)(you)了涌現出意識的(de)可能。

值得(de)注(zhu)意的(de)一點是(shi)，隨(sui)著(zhu)多(duo)模態(tai)(tai)GPT-4模型(xing)的(de)發布，多(duo)模態(tai)(tai)模型(xing)將成為未來各個科(ke)技(ji)巨頭的(de)兵家(jia)必爭(zheng)之(zhi)地。所謂多(duo)模態(tai)(tai)，即(ji)擁有處(chu)理文字、圖片、音(yin)頻(pin)、視(shi)頻(pin)多(duo)種形式的(de)能力。

2月底，微(wei)軟在一篇論文(wen)中提到，“語言、多模式感知、動(dong)作和建(jian)模的大融合是通向通用AI的關(guan)鍵(jian)一步(bu)……作為智(zhi)能的基本組成部分，在知識獲取方面，多模態(tai)感知，是實現(xian)通用AI的必(bi)要條件。”

對(dui)于(yu)以(yi)GPT為(wei)代表(biao)的(de)大型語言模型的(de)未來發(fa)展，我(wo)們也能窺得一二。分析認(ren)為(wei)，ChatGPT現在表現出來(lai)的(de)能力大多是“大腦”的(de)能力，尚不具備“雙(shuang)手(shou)”的(de)能力，未(wei)來(lai)可以(yi)與(yu)和硬件機器人聯(lian)結起來(lai)。例如，3月6日，來自谷歌和德國柏林工(gong)業(ye)大學的一(yi)組AI研究人(ren)員公布的視(shi)覺語言模型PaLM-E就能(neng)將視(shi)覺和語言集成到(dao)機器(qi)人(ren)控制中(zhong)。

華映資本投資董事(shi)劉天(tian)杰在此前接受每(mei)經記(ji)者采訪(fang)時就(jiu)曾表示，他看(kan)重的(de)(de)(de)就(jiu)是未來(lai)更多(duo)各(ge)行(xing)各(ge)業(ye)能(neng)夠去做AI賦能(neng)的(de)(de)(de)應(ying)用，比(bi)如(ru)SaaS、RPA（機器人流(liu)程自動(dong)化(hua)）以(yi)及(ji)全(quan)局的(de)(de)(de)智能(neng)機器人等。“也(ye)就(jiu)是說(shuo)(shuo)，用AI指揮實體的(de)(de)(de)東西去執(zhi)行(xing)操作。這一塊涉及(ji)到(dao)大模(mo)(mo)型(xing)的(de)(de)(de)多(duo)模(mo)(mo)態輸(shu)出和(he)輸(shu)入(ru)，是一個(ge)相對(dui)來(lai)說(shuo)(shuo)比(bi)較前沿的(de)(de)(de)領(ling)域(yu)，也(ye)是大模(mo)(mo)型(xing)沒有完全(quan)解決(jue)的(de)(de)(de)領(ling)域(yu)。”他說(shuo)(shuo)道。

隨著AI以超越(yue)人類想(xiang)象的速度發展，互聯往上關(guan)于“硅(gui)基生物”是否會替代的(de)人(ren)類的(de)探(tan)討也變得十分熱鬧。

圖片：微博

周鴻祎認為，硅基生物會變成食物鏈的頂端，它們比人類更能扛得住宇宙射線、更適合星際旅行、壽命更長。

他表示，“最悲觀的結果是(shi)(shi)，就(jiu)像恐龍的消失為(wei)哺乳(ru)動(dong)物打(da)下(xia)了(le)基礎(chu)，硅基生物的誕生也(ye)是(shi)(shi)一種命中注定。人類作為(wei)碳基(ji)生物(wu)培養(yang)了程(cheng)序員、創造了超級電腦，為(wei)碳基(ji)生物(wu)的(de)誕生打下基(ji)礎，之(zhi)后可能(neng)就(jiu)不是(shi)碳基(ji)生物(wu)所(suo)能(neng)控(kong)制的(de)了。”

在周鴻祎看來，未來的(de)AI如果跟工業互聯網、智慧城(cheng)市、車聯網等結合，那就相當(dang)于(yu)把(ba)整個世界給(gei)控制住了(le)。“留給(gei)人(ren)類的(de)時間(jian)不多了(le)。”他說道。

另一方(fang)面，隨著千(qian)人(ren)聯(lian)名信有(you)關AI風(feng)險(xian)的議題(ti)置(zhi)于聚光燈下，未來(lai)全球勢(shi)必將(jiang)收緊(jin)AI監(jian)管。3月31日，意大利率先禁止使用ChatGPT，并限制OpenAI處理(li)意大利的用戶信息，同時對(dui)此立(li)案調查。

在此之前(qian)，聯合國教科文組織也已于3月20日發出呼吁，各國政府應就AI發展毫不拖延地實施全球倫理框架，這也(ye)是聯合國首(shou)次就(jiu)AI發展(zhan)的倫(lun)理風(feng)險對(dui)所有193個(ge)會員國提出要(yao)求；3月29日(ri)，英(ying)國也(ye)提交了《支持AI創新的監管方法(fa)》政策(ce)文件。

記者|文巧

編輯|王月龍 蘭素英 易啟江

校對|盧祥勇

｜每日(ri)經(jing)濟新聞(wen)  nbdnews  原(yuan)創文章(zhang)｜

未經許可(ke)禁止(zhi)轉載、摘編、復制及鏡(jing)像等使(shi)用