每經(jing)編輯｜畢陸名

當全社會都在(zai)為(wei)AI的進化而(er)歡呼雀躍時，多(duo)位科(ke)技領袖也表(biao)達了深(shen)切(qie)擔憂。

據(ju)生命未來研究(jiu)所(suo)官網(wang)，3月22日，生命未來研究(jiu)所(suo)（Future of Life）向全(quan)社會發布(bu)了一封《暫停大(da)型人(ren)工(gong)智能研究(jiu)》的公開信，呼吁所(suo)有人(ren)工(gong)智能實驗(yan)室立(li)即暫停比GPT-4更強(qiang)大(da)的人(ren)工(gong)智能系統的訓練，暫停時間(jian)至少為6個(ge)月。該機構(gou)以“引導變革性技術造福生活，遠離極端(duan)的大(da)規(gui)模風險(xian)”為使命。

信中(zhong)寫道“只(zhi)有(you)在我們確信它們的(de)效果是(shi)積極的(de)，風(feng)險是(shi)可控的(de)情(qing)況下，才(cai)應該開發強大的(de)人(ren)工智(zhi)能系統。”馬斯克(ke)此前曾(ceng)多次表達對(dui)人(ren)工智(zhi)能的(de)擔憂，認為人(ren)工智(zhi)能是(shi)未來人(ren)類(lei)文明最大的(de)風(feng)險之一，威脅程度遠高于車禍、飛機失(shi)事、毒(du)品泛濫等甚至比核武器都危險得多。

截至目前(qian)，馬斯克、蘋果聯合(he)創始(shi)人Steve Wozniak、Stability AI創始(shi)人Emad Mostaque等上(shang)千(qian)名科技大佬(lao)和AI專家已經簽署(shu)公開信。

值得一提的(de)是，OpenAI CEO奧特曼在與MIT研究科學家Lex Fridman的(de)最新對話中指(zhi)出，AI已經出現(xian)其(qi)無法解(jie)釋(shi)的(de)推理能(neng)力，同時承認(ren)“AI殺死(si)人類(lei)”有一定(ding)可(ke)能(neng)性(xing)。

圖片來源：視覺中國

“加快開發強大的AI治理系統”

未來(lai)生命研(yan)究所的這封公(gong)開(kai)信(xin)題為“暫停(ting)巨型AI實驗：一封公(gong)開(kai)信(xin)”，于(yu)29日(ri)解封。

以下是公開信原文：

正如廣泛的研究和頂級人工智能實驗室所承認的，人工智能系統對社會和人類構成較大的風險。《阿西洛馬人工智能原則》中指出，高級人工智能可能代表著地球上生命歷史的深刻變革，應該以相應的謹慎和資源進行規劃和管理。然而，盡管最近幾個月人工智能實驗室掀起AI狂潮，開發和部署越來越強大的數字大腦，但目前沒有人能理解、預測或可靠地控制AI系統，也沒有相應水平的規劃和管理。

現(xian)在，人(ren)工(gong)智(zhi)(zhi)能(neng)在一般任務(wu)上變得與人(ren)類(lei)(lei)有競爭力，我們(men)必須(xu)問自己：我們(men)應(ying)(ying)該讓機器在信(xin)息渠道(dao)中(zhong)宣傳不真實的(de)(de)(de)(de)信(xin)息嗎？我們(men)是(shi)否(fou)應(ying)(ying)該把所有的(de)(de)(de)(de)工(gong)作都(dou)自動化，包括那些(xie)有成就(jiu)感的(de)(de)(de)(de)工(gong)作？我們(men)是(shi)否(fou)應(ying)(ying)該開發非人(ren)類(lei)(lei)的(de)(de)(de)(de)大(da)(da)腦(nao)，使其最(zui)終超過(guo)(guo)人(ren)類(lei)(lei)數量，勝(sheng)過(guo)(guo)人(ren)類(lei)(lei)的(de)(de)(de)(de)智(zhi)(zhi)慧(hui)，淘汰并(bing)取代(dai)人(ren)類(lei)(lei)？我們(men)是(shi)否(fou)應(ying)(ying)該冒著失去對我們(men)文明(ming)控制的(de)(de)(de)(de)風(feng)險？這樣的(de)(de)(de)(de)決定(ding)絕不能(neng)委托給未經選舉(ju)的(de)(de)(de)(de)技術(shu)領(ling)袖。只有當我們(men)確信(xin)強大(da)(da)的(de)(de)(de)(de)人(ren)工(gong)智(zhi)(zhi)能(neng)系(xi)統的(de)(de)(de)(de)效果是(shi)積極的(de)(de)(de)(de)，其風(feng)險是(shi)可控的(de)(de)(de)(de)，才應(ying)(ying)該開發。同(tong)時，這種(zhong)信(xin)心必須(xu)得到(dao)驗證，并(bing)隨著系(xi)統的(de)(de)(de)(de)潛(qian)在影(ying)響(xiang)的(de)(de)(de)(de)大(da)(da)小(xiao)而加強。OpenAI最(zui)近(jin)關于(yu)人(ren)工(gong)智(zhi)(zhi)能(neng)的(de)(de)(de)(de)聲明(ming)中(zhong)指出，在開始訓練未來的(de)(de)(de)(de)系(xi)統之前(qian)，可能(neng)必須(xu)得到(dao)獨立(li)的(de)(de)(de)(de)審(shen)查，對于(yu)最(zui)先(xian)進的(de)(de)(de)(de)努力，同(tong)意限制用于(yu)創(chuang)建新模型(xing)的(de)(de)(de)(de)計算增長速度。我們(men)同(tong)意，現(xian)在就(jiu)該采取行動。

因此，我們呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，時間至少持續6個月。這種暫停應該是公開的、可核查的，并包括所有關鍵參與者者。如果這種禁令不能迅速實施，政府應該介入并制定暫停令。

人工智能實驗室和獨立專家應在暫停期間，共同制定和實施一套先進的人工智能設計和開發的共享安全協議，由獨立的外部專家進行嚴格的審查和監督。這些協議應該確保遵守協議的系統是安全的。值得一提的是，這并不意味著暫停一般的人工智能開發，只是從危險的競賽中退后一步，限制不可預測的研究和開發。

人(ren)工智能的(de)研究和開發(fa)應(ying)該重新聚焦于，使目前(qian)最先(xian)進和強大的(de)系統更加準確、安全、可解釋、透(tou)明(ming)、穩健、一(yi)致、值(zhi)得信賴(lai)和忠誠。

同時，人工智能開發者必須與政策制定者合作，大幅加快開發強大的人工智能治理系統。這些至(zhi)少(shao)應該(gai)包(bao)括：專門針(zhen)對人(ren)(ren)工(gong)智(zhi)能(neng)的(de)(de)監(jian)管機(ji)構；監(jian)督和跟蹤(zong)高能(neng)力的(de)(de)人(ren)(ren)工(gong)智(zhi)能(neng)系統和大型計算能(neng)力的(de)(de)硬件(jian)；出處(chu)和水印系統幫助區分真實和合成，并跟蹤(zong)模型泄漏；強大的(de)(de)審查和認證生(sheng)態(tai)系統；對人(ren)(ren)工(gong)智(zhi)能(neng)造(zao)成的(de)(de)傷害承擔責任(ren)；為(wei)人(ren)(ren)工(gong)智(zhi)能(neng)安全技術研究提(ti)供強大的(de)(de)公共資金以(yi)及資源充足的(de)(de)機(ji)構，以(yi)應對人(ren)(ren)工(gong)智(zhi)能(neng)可能(neng)導致的(de)(de)巨大的(de)(de)經濟(ji)和政治破壞。

人(ren)類可以(yi)通過人(ren)工(gong)智(zhi)能(neng)享受繁榮的未來。現在(zai)，我們成功地創建了(le)強大的人(ren)工(gong)智(zhi)能(neng)系(xi)統，可以(yi)在(zai)這(zhe)個(ge)“人(ren)工(gong)智(zhi)能(neng)之夏”中(zhong)獲得回報，為所有人(ren)的明確利益設計這(zhe)些系(xi)統，并給社(she)會一(yi)個(ge)適應的機會。停止(zhi)使用其他技(ji)術可能(neng)會對(dui)社(she)會造成災難性(xing)影響(xiang)，因此我們必須保持準備狀態(tai)。讓我們享受一(yi)個(ge)漫(man)長的人(ren)工(gong)智(zhi)能(neng)夏天，而(er)不是匆忙進入秋天。

截至發稿(gao)，這封信已(yi)有1127名(ming)(ming)科技領(ling)(ling)袖(xiu)和研究人員簽名(ming)(ming)，除了馬斯(si)克(ke)、辛頓和馬庫(ku)斯(si)之外，還包括(kuo)圖靈(ling)獎得主(zhu)約書亞(ya)·本希奧（Yoshua Bengio）、《人工智能：現(xian)代(dai)方法》作者斯(si)圖爾(er)特·羅素(su)（Stuart Russell）、蘋(pin)果公(gong)司聯合(he)創(chuang)始人史蒂(di)夫(fu)·沃茲尼亞(ya)克(ke)（Steve Wozniak）、Stability AI首席執行官埃馬德·莫斯(si)塔克(ke)（Emad Mostaque）等科技界領(ling)(ling)袖(xiu)人物。

OpenAI CEO：“AI確實可能殺死人類”

據澎湃新聞3月28日報道，OpenAI CEO山姆·奧特曼稱，并不否(fou)認過分強大的AGI“可能(neng)殺(sha)(sha)死人(ren)類”這(zhe)(zhe)一觀點。必(bi)須(xu)承認，（AI殺(sha)(sha)死人(ren)類）有(you)一定(ding)可能(neng)性。很多(duo)關于AI安全和(he)挑戰的預測被(bei)證明(ming)是錯誤(wu)的，我們(men)必(bi)須(xu)正視這(zhe)(zhe)一點，并盡(jin)早嘗試找到解決問題(ti)的方法。

值得注意(yi)的是，據(ju)財(cai)聯社報道，近日，挪威機器人公司1X Technologies宣布完成A2輪(lun)融資(zi)，共籌集到(dao)2350萬(wan)美(mei)元。OpenAI旗下創業基金領投此輪(lun)融資(zi)，Tiger Global以(yi)及(ji)一群挪威投資(zi)者也參與其中。

獲得融資后，該公司創始人進(jin)一(yi)(yi)步表示，“1X很(hen)高(gao)興能得到OpenAI的(de)領(ling)投，因為我們(men)的(de)使命是一(yi)(yi)致的(de)：將(jiang)新興技術有意識地融入(ru)人們(men)的(de)日常生活。在我們(men)投資者的(de)支(zhi)持下，我們(men)將(jiang)繼(ji)續在機器人領(ling)域(yu)取(qu)得重大進(jin)展，并增強(qiang)全球勞動力市場。”

值(zhi)得注意的(de)是，人形(xing)機(ji)(ji)(ji)器人也(ye)是馬(ma)斯(si)(si)克(ke)(ke)十分關注的(de)方向。去年9月(yue)30日舉辦的(de)特斯(si)(si)拉(la)AI日上，馬(ma)斯(si)(si)克(ke)(ke)展示了外(wai)界引頸期盼的(de)人形(xing)機(ji)(ji)(ji)器人Optimus，馬(ma)斯(si)(si)克(ke)(ke)曾表示，機(ji)(ji)(ji)器人業(ye)務將(jiang)比汽車更具價(jia)值(zhi)。

彼時，馬斯克在發布會上(shang)表示，目前(qian)的(de)(de)(de)人(ren)形機(ji)器(qi)人(ren)沒(mei)有(you)“大腦”，沒(mei)有(you)能在現實(shi)世界(jie)中導航的(de)(de)(de)智能，而且非(fei)常(chang)昂貴(gui)且產量低。如今，OpenAI與(yu)人(ren)形機(ji)器(qi)人(ren)的(de)(de)(de)牽(qian)手則讓人(ren)期(qi)待。

高盛：全球將有三億人失業

據紅星新(xin)聞報道，ChatGPT迭代(dai)升級(ji)的(de)腳步加快，很多人失(shi)業的(de)恐懼也越(yue)來越(yue)重(zhong)。高盛分析師布(bu)里格斯和庫達(da)尼在(zai)3月27日發(fa)布(bu)的(de)研究報告中就直面了這(zhe)一問題。

報告稱：“最(zui)近(jin)出現的(de)(de)生成(cheng)(cheng)式(shi)人工(gong)智能將降低(di)勞(lao)動力(li)成(cheng)(cheng)本(ben)和(he)提(ti)高生產(chan)率。盡管AI的(de)(de)潛(qian)力(li)存在很大(da)的(de)(de)不確定性，但它可以生成(cheng)(cheng)與(yu)人類創造成(cheng)(cheng)果無法區分的(de)(de)內容，并能打(da)破人機(ji)溝通(tong)障礙，反映出具有潛(qian)在巨大(da)宏觀經濟影響的(de)(de)重大(da)進步。AI不僅節(jie)省勞(lao)動力(li)成(cheng)(cheng)本(ben)，還能創造新的(de)(de)就業機(ji)會(hui)以及提(ti)高在崗工(gong)人的(de)(de)生產(chan)率。AI的(de)(de)革命性就像早期通(tong)用技術（如(ru)發電機(ji)和(he)個人計算(suan)機(ji)）一樣能為社(she)會(hui)帶來繁榮。”

圖片來源：視覺中國

ChatGPT等生成式人工(gong)智能系統的最(zui)新突破，料(liao)將(jiang)給全(quan)球(qiu)勞動力(li)市(shi)場帶(dai)來重(zhong)大(da)顛覆，全(quan)球(qiu)預(yu)計將(jiang)有(you)3億個工(gong)作崗位被生成式AI取代(dai)，律師和行政人員將(jiang)是最(zui)有(you)可能被裁員的崗位。

高盛研究發現，目前歐美(mei)約有三分(fen)之二的(de)(de)(de)(de)工(gong)(gong)作(zuo)崗位都在(zai)某(mou)種程(cheng)度上(shang)受到(dao)AI自(zi)動化趨勢(shi)的(de)(de)(de)(de)影響，而多達四分(fen)之一(yi)的(de)(de)(de)(de)當(dang)前崗位有可(ke)能最(zui)終被完(wan)全取(qu)代。該研究計(ji)算(suan)出美(mei)國63%的(de)(de)(de)(de)工(gong)(gong)作(zuo)暴(bao)露(lu)在(zai)“AI影響范圍”中(zhong)，其中(zhong)7%的(de)(de)(de)(de)工(gong)(gong)作(zuo)有一(yi)半以上(shang)的(de)(de)(de)(de)流(liu)程(cheng)可(ke)以由AI自(zi)動化完(wan)成，這使(shi)他們很容易馬上(shang)被人(ren)工(gong)(gong)智能取(qu)代。在(zai)歐洲(zhou)，情況也(ye)差不(bu)多。

據21財經，作為一(yi)種具備生(sheng)產創造能力(li)的(de)(de)(de)智(zhi)能形態，以ChatGPT為代表的(de)(de)(de)AI近(jin)年來展現(xian)出令(ling)人矚目(mu)的(de)(de)(de)文字、圖像、聲音的(de)(de)(de)生(sheng)成或輔助生(sheng)成能力(li)，也不(bu)斷刷新著人們對于AI最終取代絕大部(bu)分(fen)人類(lei)工作的(de)(de)(de)擔(dan)憂。

更為關鍵的(de)(de)是(shi)，當前(qian)的(de)(de)AIGC（人(ren)工(gong)智能生(sheng)成內容）無(wu)需工(gong)資，亦不存(cun)在失業的(de)(de)概念，作為提供生(sheng)產力的(de)(de)經濟(ji)單位，其(qi)與宏(hong)觀(guan)經濟(ji)間的(de)(de)邏輯關系較人(ren)類(lei)發生(sheng)了根(gen)本性(xing)改變，而這或許將給(gei)經濟(ji)環境帶來難(nan)以(yi)估量的(de)(de)影響。

每日經濟新聞(wen)(wen)綜合生命未來(lai)研究所、澎湃新聞(wen)(wen)、財聯社(she)、21財經、紅星新聞(wen)(wen)

封面(mian)圖片來(lai)源：視覺(jue)中國