每經(jing)編輯｜畢陸名

當地(di)時(shi)間周二（5月16日），“ChatGPT之父(fu)”山姆·阿爾(er)特曼（Sam Altman）首(shou)次在(zai)美國(guo)國(guo)會作證，他(ta)呼(hu)吁(yu)(yu)美政府對(dui)人(ren)工智能（AI）技術進(jin)行更嚴厲的監管(guan)，并表示他(ta)掌管(guan)的OpenAI以及谷歌等同行都應當承受壓力(li)。Altman呼(hu)吁(yu)(yu)國(guo)會對(dui)AI系統采取安全標準。

據澎湃新聞5月15日報道，阿爾特曼在最新的訪談中表示，可以建立一個類似于國際原子能機構的AI機構，讓每個人都參與到對極其強大的AI訓練系統的全球監管機構中來。在(zai)訪談中(zhong)，奧特曼還(huan)談到(dao)了(le)自(zi)己如何使(shi)用ChatGPT，開源(yuan)AI與閉源(yuan)AI各自(zi)的(de)特點與發(fa)展路徑。他認為，帶有(you)人類(lei)反饋的(de)強化學習（RLHF）不是(shi)正(zheng)確的(de)長(chang)期(qi)解決(jue)方案。

提議頒發AI開發許可

在這場(chang)美國參議院司(si)法委員會舉(ju)行的(de)聽證會上，Altman做開場(chang)白時(shi)就指出：“我(wo)們(men)認為，對于(yu)減少日益強大的(de)模(mo)型的(de)風險(xian)而言，政府的(de)監管干預至關重要(yao)。”

山姆·阿爾特曼（圖片來源：視(shi)覺中國）

他認為，美國政府可以監管AI行業的一種方式是，為開發功能最強大的AI系統的公司，實行持牌制度。如(ru)果有公司(si)要開(kai)發(fa)和發(fa)布超出(chu)能力閥值(zhi)的AI模型，政府可以將發(fa)放牌照和測試的要求結合(he)起來，對他們予以監管。

他還提到一種可能采取的解決方案，建立一個國際性的監管方委員會，由美國領導。

Altman稱(cheng)：“我最擔心的是(shi)(shi)（AI行(xing)業(ye)）會對世界(jie)造成重(zhong)大傷害”。他說，AI可能被用于(yu)操(cao)縱選(xuan)(xuan)民以(yi)及(ji)有(you)針對性(xing)的假(jia)消(xiao)息是(shi)(shi)他“最關心的一些(xie)領域”，尤其是(shi)(shi)因為美(mei)國“明年(nian)將面臨選(xuan)(xuan)舉(ju)，而這些(xie)（AI）模型正(zheng)在變得更好。”

同時，阿爾特曼還說道，ChatGPT-4將使一些工作實現自動化，同時將帶來新的工作機會。他還透露，目前公司并沒有訓練GPT-5，未來六個月也沒有這方面的計劃。

據財(cai)聯社5月17日(ri)報道(dao)，與(yu)之(zhi)前(qian)準(zhun)備好的證詞一致，阿爾特(te)曼對監管政(zheng)策的初步建(jian)議(yi)主要集中在“AI開發許(xu)可(ke)(ke)”上(shang)。如此一來(lai)，只有獲得過許(xu)可(ke)(ke)的企業，才能(neng)發布新的人工智(zhi)能(neng)模型并進行一系列(lie)測試。

一同出席(xi)聽(ting)證會的(de)IBM首席(xi)隱(yin)私和信任(ren)官克里斯蒂(di)娜.蒙哥馬利認為，應該要求人工智(zhi)能產品在與用戶互動時保持(chi)透(tou)明可信。

她還(huan)告訴議員，雖然國會尚未設定相關要求，但IBM內部已經組(zu)建了AI道德委員會。

歐盟欲出臺全球首個AI法案

據第一財經5月13日消息，歐洲議會正就全球首部人工智能（AI）法案展開大規模協商，光修正案就有一千多項，創下了歐洲議會史上之最。當(dang)地時間11日(ri)，歐洲議會內(nei)部市場(chang)委員會和公(gong)民自由委員會以84票(piao)贊成、7票(piao)反對和12票(piao)棄權通(tong)過(guo)關于《AI法案》的(de)談(tan)判授權草案，其中包含了有關面部識(shi)別、生(sheng)物識(shi)別監(jian)控和其他AI應(ying)用(yong)使用(yong)的(de)新規則，并提(ti)出了嚴格監(jian)管ChatGPT等AI工具(ju)的(de)新思路。

圖片來源：視覺中國

領導上述(shu)法案制定的歐(ou)(ou)洲議會議員土多拉舍（Drago?Tudorache）表(biao)示(shi)，歐(ou)(ou)盟的《AI法案》是全球(qiu)首個此(ci)類立法，“歐(ou)(ou)盟可以在全球(qiu)范圍(wei)內帶頭使AI以人為本(ben)，（變得）值得信(xin)賴和安全”。

目前的(de)(de)提案采取了分級管理的(de)(de)思路，即(ji)基于AI的(de)(de)四個(ge)等級（從(cong)風險最小到不可接受），進(jin)行區別管理，風險較(jiao)高的(de)(de)應用程序(xu)將(jiang)面(mian)臨更嚴格的(de)(de)規則(ze)，需(xu)要更高的(de)(de)透明度和準確性。

歐洲(zhou)議會(hui)認為，對(dui)人(ren)(ren)類(lei)安全造成不可(ke)接(jie)受(shou)風(feng)險的AI系統將被嚴格禁止，包括部署(shu)潛(qian)意識或有目的操縱技術(shu)、利用人(ren)(ren)們弱點或用于社會(hui)評分的系統。

根據目前的時間表(biao)，該法案(an)將(jiang)于6月(yue)提交歐(ou)洲(zhou)議會全體表(biao)決，之后(hou)歐(ou)洲(zhou)議會、歐(ou)盟理事(shi)會和歐(ou)盟委員(yuan)會的代表(biao)將(jiang)在“三方”會談中(zhong)商定最(zui)終條(tiao)款(kuan)。在條(tiao)款(kuan)最(zui)終確定且該法案(an)成為法律后(hou)，將(jiang)有大約(yue)兩年的寬限期(qi)。

除了歐(ou)洲(zhou)，全球各地(di)越來越擔心快(kuai)速發展的AI技(ji)術可能(neng)被濫用。美國聯邦貿易委員會此前發出警告，稱“正在密(mi)切關注(zhu)公司如何選擇使用AI技(ji)術，包括(kuo)新的生成(cheng)人工智(zhi)能(neng)工具，以及(ji)對(dui)消費(fei)者(zhe)產(chan)生實際和實質(zhi)性影響(xiang)的方式”。

據環球網(wang)報道，5月4日，拜登政府(fu)則(ze)宣(xuan)布對“值得信賴的”人工(gong)智能增加新(xin)投資。同日，美國副總統哈里斯(si)以及多位白宮高(gao)級官員與谷歌、微(wei)軟、OpenAI和AI初創公司Anthropic的首(shou)席(xi)執行官會面，集(ji)中(zhong)討(tao)論當前和近期的技(ji)術(shu)發展(zhan)所帶來(lai)的風險。

每日經(jing)濟新聞綜合第一財經(jing)、環球(qiu)網(wang)、澎湃新聞、財聯社

封面圖(tu)片來源(yuan)：視覺中(zhong)國