每(mei)經編輯｜黃勝 ;   

人工智能風口(kou)正盛，一封呼(hu)吁暫停(ting)大型AI研究的(de)公開(kai)信在硅谷科技圈流傳開(kai)來(lai)，激起(qi)千層浪。

最具戲劇性的是，OpenAI CEO Sam Altman的名字也曾赫然出現在公開信上。《每日經濟新聞》注意到，在簽名名單里的尾部，赫然出現了阿爾特曼的名字。簽名中OpenAI最后一個字母為小寫，或有故意之嫌疑。

圖片來源：futureoflife.org

簽署(shu)人之(zhi)一(yi)、紐約(yue)大學著名AI研(yan)究者Gary Marcus也在(zai)推(tui)特(te)上發問：“是你嗎，山姆？”

圖(tu)片(pian)來源：GaryMarcus@twitter

據華爾街見聞，不過周三晚些時候被證實是虛假簽名，Altman在接受媒體采訪時，他并沒有計劃呼吁暫停人工智能的開發。

Altman并不(bu)同意這封信(xin)的(de)觀點，他(ta)指出：OpenAI不(bu)僅(jin)非常重視(shi)AI安全(quan)，而且(qie)比業內其他(ta)公(gong)司(si)更(geng)重視(shi)。我們談論這些問(wen)題的(de)聲音最(zui)大、強度最(zui)大、時間(jian)最(zui)長。

“馬斯克們”呼吁暫停，OpenAI創始人：AI需要政府與社會的共同監管

北京時間3月29日，由圖靈獎得主、深度學習三巨頭之一約書亞·本吉奧（Yoshua Bengio），埃隆·馬斯克，《人類簡史》作者尤瓦爾·赫拉利等人聯名發表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統，為期至少6個月，以確保人類能夠有效管理其風險。暫停工(gong)作應該(gai)是(shi)公開(kai)且(qie)可以證(zheng)實(shi)的，如果AI實(shi)驗室不能快速(su)暫停，各(ge)國政府(fu)應該(gai)實(shi)行暫停令。

值(zhi)得注意的(de)是，馬(ma)(ma)斯克(ke)作為OpenAI的(de)共(gong)同(tong)創始人(ren)之一(yi)，一(yi)直也(ye)毫不(bu)掩蓋他(ta)對OpenAI的(de)敵意，認為其過商(shang)業化，從開源變(bian)成(cheng)了“閉源”，已經(jing)忘了非盈利和(he)開放的(de)“初(chu)心(xin)”。但最(zui)近(jin)也(ye)有(you)新聞(wen)指出，馬(ma)(ma)斯克(ke)之所(suo)以如此敵視OpenAI，是因為2018年爭奪OpenAI經(jing)營權失敗(bai)，所(suo)以撤資走人(ren)。

此(ci)外，簽名人(ren)還包(bao)括蘋(pin)果(guo)聯(lian)合創始人(ren)史蒂夫·沃茲(zi)尼亞克、2020年美(mei)國總統選(xuan)舉民主黨(dang)初(chu)選(xuan)候(hou)選(xuan)人(ren)楊安澤、AI經典(dian)教科書《人(ren)工智能: 一種(zhong)現代方法》作者Stuart Russell、AI領軍(jun)公司DeepMind的一眾(zhong)研究(jiu)人(ren)員等。

截(jie)至(zhi)29日，這份(fen)公開信已經征(zheng)集到1128份(fen)簽名(ming)。

圖片來源：futureoflife.org

公開信指出，AI現在已經能和人類競爭，將給人類社會帶來深刻的變革。在這個關鍵時刻，我們必須思考AI的潛在風險：假新聞和宣傳充斥信息渠道、大量工作被自動化取代、人工智能甚至有一天會比人類更聰明、更強大，讓我們失去對人類文明的掌控。這些問題(ti)不(bu)應該交給(gei)“未經民(min)選的科技領袖”來決定。

然而(er)，各大AI實驗室為了開發(fa)和(he)應(ying)用更加強(qiang)大的人工(gong)智(zhi)能(neng)，最近(jin)幾個月已經陷入了“失控”的競(jing)賽，甚(shen)至連AI系統(tong)的創始人也并不能(neng)完(wan)全理(li)解、預測和(he)有效控制(zhi)其風險，相應(ying)的計(ji)劃(hua)和(he)管理(li)工(gong)作沒有跟上。

實際上，面對OpenAI產品在全球的火爆程度，OpenAI創始人兼CEO山姆·阿爾特曼自己也感到有些害怕。他近日在接受媒體采訪時表示，自己對AI如何影響勞動力市場、選舉和虛假信息的傳播有些“害怕”。AI需要政府和社會共同參與監管，用戶反饋和規則制定對抑制AI的負面影響非常重要。

OpenAI CEO：“AI確實可能殺死人類”

據澎湃新(xin)聞(wen)3月28日報道(dao)，OpenAI CEO山姆·奧特(te)曼稱，并(bing)不(bu)否(fou)認過分強大的(de)(de)AGI“可能(neng)殺(sha)死人(ren)(ren)類(lei)”這一(yi)觀點。必須(xu)承認，（AI殺(sha)死人(ren)(ren)類(lei)）有一(yi)定可能(neng)性。很(hen)多(duo)關于AI安全和挑(tiao)戰(zhan)的(de)(de)預測被證明是(shi)錯誤的(de)(de)，我(wo)們必須(xu)正視這一(yi)點，并(bing)盡早(zao)嘗試找到解決問(wen)題的(de)(de)方法。

圖片來源：視覺中國

值得注(zhu)意的是，據財(cai)聯社報道，近日，挪(nuo)威(wei)(wei)機器人公司1X Technologies宣布(bu)完成A2輪融資(zi)，共籌集到2350萬美(mei)元。OpenAI旗下創業基金領投(tou)此輪融資(zi)，Tiger Global以(yi)及一(yi)群挪(nuo)威(wei)(wei)投(tou)資(zi)者也參與其中。

獲得(de)融資(zi)(zi)后，該公(gong)司(si)創始人進一步表示，“1X很高興(xing)能得(de)到OpenAI的(de)領投(tou)，因為我們的(de)使命是一致的(de)：將(jiang)(jiang)新興(xing)技術有意識地融入人們的(de)日常生(sheng)活。在(zai)我們投(tou)資(zi)(zi)者的(de)支持下，我們將(jiang)(jiang)繼續在(zai)機(ji)器人領域取得(de)重(zhong)大進展，并(bing)增強全球勞動力市(shi)場。”

值(zhi)得注意(yi)的(de)是，人(ren)形機器人(ren)也是馬斯(si)克十分關注的(de)方向。去年9月30日(ri)舉(ju)辦的(de)特斯(si)拉AI日(ri)上，馬斯(si)克展示了(le)外(wai)界引頸期盼的(de)人(ren)形機器人(ren)Optimus，馬斯(si)克曾表示，機器人(ren)業務將比汽車更具價(jia)值(zhi)。

彼時(shi)，馬(ma)斯克在發(fa)布會上表示，目(mu)前的人(ren)(ren)形機器(qi)人(ren)(ren)沒(mei)有(you)“大腦(nao)”，沒(mei)有(you)能在現實世(shi)界中導航的智能，而且非常昂貴且產量低(di)。如今，OpenAI與人(ren)(ren)形機器(qi)人(ren)(ren)的牽手(shou)則讓人(ren)(ren)期待。

每日經濟新聞綜合華爾街見聞、每經網（記者：李孟(meng)林）、澎湃新(xin)聞、財(cai)聯(lian)社

封面圖片來源：視覺中國-VCG41N1356593648