每經編(bian)輯｜王(wang)月龍 高涵 易啟江    

牛津大學和谷歌人工智能部門(men) DeepMind 的研究人員聲稱， 高級形式的人(ren)工智能很有可能 “對地球上的生命構成威脅” 。

在他們合著的一篇(pian)發表于(yu)同行評審期刊 AI Magazine 的論文中，研究人員警(jing)告(gao)稱(cheng)，如果(guo)某些人工智能體(ti)的發展(zhan)繼續下去，將會產(chan)生“災難性后(hou)果(guo)”。

該論文提出一個場景， 人工智能為了獲得預先編程時所設置的獎勵，可能會發(fa)展出作弊策(ce)略。實驗認為人類最終會與人工智能爭奪資源(yuan)。

“在我們已確定的條件下，我們得出的結論比以往發表的任何文章都要確鑿得多——‘生存災難’不僅可能發生，而是很有可能。”來自牛津大學的論文合著者科恩此前在推特上寫道。“這些可能性，盡管是理論上的，都意味著我們在開發更強大的人工智能上，步調應該放緩。”

圖片來源：攝圖網 400094444

DeepMind 已經提出針對這種可能性(xing)的保護措施。在 2016 年題為“安全(quan)中斷代理(li)”的論文中， 該公司勾勒了一個(ge)框架，用于防止高(gao)級機器忽略關閉命令，成為失(shi)控的流氓代理。

值得(de)注意的是，據(ju)界(jie)(jie)面新(xin)聞報道，為期三(san)天(tian)的全球人(ren)工(gong)智(zhi)(zhi)能峰會于9月13日正式在沙(sha)特(te)阿拉伯利雅得(de)開幕(mu)，該峰會由沙(sha)特(te)數據(ju)和人(ren)工(gong)智(zhi)(zhi)能局(ju)（SDAIA）舉辦，由來自世界(jie)(jie)各(ge)國民(min)營(ying)企業(ye)領導者、政府(fu)官(guan)員和知名學(xue)者共商人(ren)工(gong)智(zhi)(zhi)能未來。

峰會上發布了《利雅得人工智能行動宣言》，概述了數字合作組織（DCO）運用人工智能技術來造福人類、社區、國家和全世界的長期愿景。沙特阿拉伯也發布《人工智能道德準則》，該框架由沙特數據與人工智能局（SDAIA）基于全球和沙特的標準制定， 是(shi)把人工智能(neng)道德納入整個人工智能(neng)系統開(kai)發生命周(zhou)期(qi)的實用指引。

編輯|王月龍 ?高涵(han) 易啟江

校對|程鵬

每(mei)日(ri)經濟新聞綜合自每(mei)經網（記(ji)者 蘭素(su)英）、界(jie)面新聞