每經記者(zhe)｜蘭素(su)英(ying)    每經編輯｜高涵    

牛(niu)津大學和谷歌(ge)人工(gong)智能部(bu)門 DeepMind 的(de)(de)研(yan)究人員聲稱，高級形式的(de)(de)人工(gong)智能很(hen)有可(ke)能“對地球上的(de)(de)生命構成(cheng)威(wei)脅”。

在他們合著的一篇(pian)發表于同行評審(shen)期刊 AI Magazine 的論文中，研究人員(yuan)警告稱，如(ru)果某些人工智能(neng)體的發展(zhan)繼續下去，將會(hui)產生“災(zai)難性(xing)后(hou)果”。

該(gai)論(lun)文提(ti)出(chu)一個場(chang)景，人(ren)工(gong)智(zhi)能為了獲得(de)預先編程時所設置的(de)獎勵，可能會發展出(chu)作(zuo)弊策略。實驗認為人(ren)類最終會與人(ren)工(gong)智(zhi)能爭奪資源。

“在(zai)我(wo)們已(yi)確定的(de)條件(jian)下，我(wo)們得出的(de)結論比(bi)以往發(fa)(fa)表(biao)的(de)任何文(wen)章都要確鑿得多——‘生存災難’不僅可能(neng)發(fa)(fa)生，而是很有可能(neng)。”來(lai)自牛津大學的(de)論文(wen)合著者科恩此前(qian)在(zai)推特上(shang)(shang)寫(xie)道。“這些可能(neng)性，盡管(guan)是理論上(shang)(shang)的(de)，都意味著我(wo)們在(zai)開發(fa)(fa)更強大的(de)人工智能(neng)上(shang)(shang)，步(bu)調(diao)應該放緩。”

DeepMind 已經提出針對這種可能(neng)性(xing)的(de)保護措施。在 2016 年題(ti)為“安全中斷代理”的(de)論文(wen)中，該公司(si)勾勒(le)了一個框架，用于(yu)防止高級機器忽(hu)略(lve)關閉命令，成為失控(kong)的(de)流氓(mang)代理。