每日經濟(ji)新聞 2023-07-13 15:53:54
每經編輯(ji)|李澤東
據網信中(zhong)國,7月13日,國家(jia)網信辦(ban)等七部(bu)門(men)聯合公布《生成式(shi)人工智能(neng)服務管理暫行辦(ban)法(fa)》。
近日,國(guo)家網信(xin)辦聯(lian)合國(guo)家發展改革委、教育部、科技部、工(gong)業和信(xin)息化部、公(gong)(gong)安(an)部、廣電總局公(gong)(gong)布(bu)《生(sheng)成式人(ren)(ren)工(gong)智能服務管理暫行辦法(fa)(fa)(fa)》(以下稱《辦法(fa)(fa)(fa)》),自2023年8月15日起(qi)施(shi)行。國(guo)家互(hu)聯(lian)網信(xin)息辦公(gong)(gong)室有關負責(ze)人(ren)(ren)表示,出臺《辦法(fa)(fa)(fa)》,旨(zhi)在(zai)促進生(sheng)成式人(ren)(ren)工(gong)智能健(jian)康發展和規范(fan)應用,維護(hu)國(guo)家安(an)全和社會公(gong)(gong)共利益,保護(hu)公(gong)(gong)民、法(fa)(fa)(fa)人(ren)(ren)和其(qi)他組織的合法(fa)(fa)(fa)權益。
近年來(lai),生成(cheng)式(shi)人(ren)(ren)(ren)工(gong)(gong)智(zhi)能技術快速發(fa)展,為經濟社會發(fa)展帶來(lai)新機遇的(de)同時,也產生了傳播虛假信息(xi)、侵害個人(ren)(ren)(ren)信息(xi)權益、數據安(an)全(quan)和偏(pian)見歧(qi)視等問(wen)題,如何統籌生成(cheng)式(shi)人(ren)(ren)(ren)工(gong)(gong)智(zhi)能發(fa)展和安(an)全(quan)引起各方關注。出(chu)臺《辦法》,既是(shi)促(cu)進(jin)生成(cheng)式(shi)人(ren)(ren)(ren)工(gong)(gong)智(zhi)能健康發(fa)展的(de)重(zhong)要(yao)要(yao)求,也是(shi)防范生成(cheng)式(shi)人(ren)(ren)(ren)工(gong)(gong)智(zhi)能服務風(feng)險的(de)現(xian)實需要(yao)。
《辦法(fa)(fa)》提出國家(jia)堅持發(fa)展和(he)安全并(bing)重、促進(jin)創新(xin)和(he)依(yi)法(fa)(fa)治理(li)相結合的原則,采(cai)取有效措施(shi)鼓勵生(sheng)成(cheng)(cheng)式(shi)人工(gong)(gong)智(zhi)(zhi)能(neng)(neng)創新(xin)發(fa)展,對(dui)(dui)生(sheng)成(cheng)(cheng)式(shi)人工(gong)(gong)智(zhi)(zhi)能(neng)(neng)服(fu)務(wu)(wu)(wu)實行包容(rong)(rong)審(shen)慎和(he)分類分級監管,明(ming)確(que)了提供和(he)使用生(sheng)成(cheng)(cheng)式(shi)人工(gong)(gong)智(zhi)(zhi)能(neng)(neng)服(fu)務(wu)(wu)(wu)總體要求(qiu)。提出了促進(jin)生(sheng)成(cheng)(cheng)式(shi)人工(gong)(gong)智(zhi)(zhi)能(neng)(neng)技術發(fa)展的具體措施(shi),明(ming)確(que)了訓(xun)練數據處(chu)理(li)活動和(he)數據標(biao)(biao)注(zhu)等要求(qiu)。規定(ding)了生(sheng)成(cheng)(cheng)式(shi)人工(gong)(gong)智(zhi)(zhi)能(neng)(neng)服(fu)務(wu)(wu)(wu)規范,明(ming)確(que)生(sheng)成(cheng)(cheng)式(shi)人工(gong)(gong)智(zhi)(zhi)能(neng)(neng)服(fu)務(wu)(wu)(wu)提供者應(ying)當采(cai)取有效措施(shi)防(fang)范未(wei)成(cheng)(cheng)年人用戶過度(du)依(yi)賴或者沉(chen)迷(mi)生(sheng)成(cheng)(cheng)式(shi)人工(gong)(gong)智(zhi)(zhi)能(neng)(neng)服(fu)務(wu)(wu)(wu),按(an)照(zhao)《互聯網信息服(fu)務(wu)(wu)(wu)深度(du)合成(cheng)(cheng)管理(li)規定(ding)》對(dui)(dui)圖片、視頻等生(sheng)成(cheng)(cheng)內(nei)容(rong)(rong)進(jin)行標(biao)(biao)識,發(fa)現違法(fa)(fa)內(nei)容(rong)(rong)應(ying)當及時采(cai)取處(chu)置(zhi)措施(shi)等。此(ci)外(wai),還(huan)規定(ding)了安全評估、算法(fa)(fa)備(bei)案、投訴舉報等制度(du),明(ming)確(que)了法(fa)(fa)律(lv)責任。
國家互(hu)聯網(wang)信息辦公室有關負責人(ren)指(zhi)出(chu),生成(cheng)式(shi)人(ren)工智能(neng)(neng)服務(wu)的發展與治理需(xu)要(yao)政府(fu)、企(qi)業、社會、網(wang)民(min)等(deng)多方(fang)參(can)與,共(gong)同促(cu)進生成(cheng)式(shi)人(ren)工智能(neng)(neng)健康(kang)發展,讓生成(cheng)式(shi)人(ren)工智能(neng)(neng)技術(shu)更好地造福人(ren)民(min)。
近(jin)日,國家網(wang)信辦聯合(he)國家發(fa)展改(gai)革委(wei)、教育部(bu)(bu)、科(ke)技部(bu)(bu)、工業和信息化部(bu)(bu)、公安(an)部(bu)(bu)、廣電總局公布了《生成式人工智能(neng)服(fu)務管理(li)暫行(xing)辦法》(以下(xia)簡稱《辦法》)。國家網(wang)信辦有關負責(ze)人就《辦法》相關問(wen)題回答了記者提問(wen)。
問:請簡要介紹《辦法》出臺的背景?
答:制(zhi)定《辦(ban)法(fa)(fa)》主(zhu)要(yao)(yao)(yao)基(ji)于以下幾個(ge)方面(mian)的(de)(de)(de)考慮:一是(shi)深入(ru)貫徹落實(shi)習近平總書記(ji)重(zhong)要(yao)(yao)(yao)指示精神和(he)黨(dang)中央(yang)決策部署的(de)(de)(de)重(zhong)要(yao)(yao)(yao)舉(ju)措。習近平總書記(ji)在(zai)主(zhu)持召開中共中央(yang)政治局(ju)會議時指出:“要(yao)(yao)(yao)重(zhong)視通用人工智(zhi)(zhi)(zhi)能發(fa)(fa)展,營(ying)造創(chuang)新(xin)生(sheng)(sheng)(sheng)態,重(zhong)視防(fang)范風險(xian)。”二(er)是(shi)促進生(sheng)(sheng)(sheng)成(cheng)式(shi)人工智(zhi)(zhi)(zhi)能健康發(fa)(fa)展的(de)(de)(de)迫切需求。隨著生(sheng)(sheng)(sheng)成(cheng)式(shi)人工智(zhi)(zhi)(zhi)能技術的(de)(de)(de)快速發(fa)(fa)展,為經濟社會發(fa)(fa)展帶來新(xin)機遇的(de)(de)(de)同時,也產(chan)生(sheng)(sheng)(sheng)了傳播虛假(jia)信息(xi)、侵(qin)害個(ge)人信息(xi)權(quan)益、數據安(an)全(quan)和(he)偏見歧視等(deng)問題。《辦(ban)法(fa)(fa)》堅持目標導(dao)向和(he)問題導(dao)向,明確(que)了促進生(sheng)(sheng)(sheng)成(cheng)式(shi)人工智(zhi)(zhi)(zhi)能技術發(fa)(fa)展的(de)(de)(de)具體(ti)措施,規定生(sheng)(sheng)(sheng)成(cheng)式(shi)人工智(zhi)(zhi)(zhi)能服務(wu)的(de)(de)(de)基(ji)本規范。三是(shi)推進實(shi)施法(fa)(fa)律規定的(de)(de)(de)內在(zai)要(yao)(yao)(yao)求。制(zhi)定《辦(ban)法(fa)(fa)》,是(shi)落實(shi)《網絡安(an)全(quan)法(fa)(fa)》、《數據安(an)全(quan)法(fa)(fa)》、《個(ge)人信息(xi)保護(hu)法(fa)(fa)》、《科學技術進步(bu)(bu)法(fa)(fa)》有關規定的(de)(de)(de)重(zhong)要(yao)(yao)(yao)要(yao)(yao)(yao)求,進一步(bu)(bu)規范數據處理等(deng)活動,維護(hu)國家安(an)全(quan)和(he)社會公共利益,保護(hu)公民、法(fa)(fa)人和(he)其他組織的(de)(de)(de)合法(fa)(fa)權(quan)益。
問:《辦法》的適用范圍是什么?
答:《辦法》規(gui)定(ding),利(li)用生(sheng)成(cheng)式(shi)人工智(zhi)(zhi)能(neng)技(ji)術(shu)向(xiang)(xiang)中華人民(min)共(gong)和(he)國境(jing)內公(gong)眾提供(gong)生(sheng)成(cheng)文(wen)本(ben)、圖片(pian)、音頻、視(shi)頻等內容的(de)(de)服(fu)務(wu)(wu),適(shi)用本(ben)辦法。國家對(dui)利(li)用生(sheng)成(cheng)式(shi)人工智(zhi)(zhi)能(neng)服(fu)務(wu)(wu)從(cong)事新聞出版、影視(shi)制(zhi)作(zuo)、文(wen)藝(yi)創作(zuo)等活動另有規(gui)定(ding)的(de)(de),從(cong)其規(gui)定(ding)。行業組織、企業、教育和(he)科研(yan)機(ji)構(gou)(gou)、公(gong)共(gong)文(wen)化機(ji)構(gou)(gou)、有關專業機(ji)構(gou)(gou)等研(yan)發(fa)、應用生(sheng)成(cheng)式(shi)人工智(zhi)(zhi)能(neng)技(ji)術(shu),未向(xiang)(xiang)境(jing)內公(gong)眾提供(gong)生(sheng)成(cheng)式(shi)人工智(zhi)(zhi)能(neng)服(fu)務(wu)(wu)的(de)(de),不適(shi)用本(ben)辦法的(de)(de)規(gui)定(ding)。
問:《辦法》堅持的主要原則是什么?
答:《辦法》提出國家堅持發展和安全并重、促進(jin)創新和依法治理相結合(he)的原(yuan)則,采取有(you)效措施鼓勵生(sheng)成式人工(gong)(gong)智(zhi)能創新發展,對生(sheng)成式人工(gong)(gong)智(zhi)能服(fu)務實行包(bao)容(rong)審慎和分(fen)類分(fen)級監管。
問:《辦法》中所稱生成式人工智能技術和生成式人工智能服務提供者是指什么?
答:《辦法》中(zhong)所稱生(sheng)成(cheng)式人(ren)(ren)工智(zhi)(zhi)(zhi)能(neng)(neng)(neng)技術,是(shi)指具(ju)有文本、圖片、音頻、視頻等內容生(sheng)成(cheng)能(neng)(neng)(neng)力的模型及(ji)相關(guan)技術;生(sheng)成(cheng)式人(ren)(ren)工智(zhi)(zhi)(zhi)能(neng)(neng)(neng)服務提供者,是(shi)指利(li)用生(sheng)成(cheng)式人(ren)(ren)工智(zhi)(zhi)(zhi)能(neng)(neng)(neng)技術提供生(sheng)成(cheng)式人(ren)(ren)工智(zhi)(zhi)(zhi)能(neng)(neng)(neng)服務(包括通(tong)過提供可編程(cheng)接(jie)口等方(fang)式提供生(sheng)成(cheng)式人(ren)(ren)工智(zhi)(zhi)(zhi)能(neng)(neng)(neng)服務)的組織(zhi)、個人(ren)(ren)。
問:《辦法》對促進生成式人工智能健康發展有哪些考慮?
答:《辦法(fa)》在治理對(dui)象上(shang),針(zhen)(zhen)對(dui)生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)服(fu)務。在監(jian)管(guan)(guan)方式(shi)(shi)(shi)(shi)上(shang),提(ti)出對(dui)生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)服(fu)務實行(xing)包容審慎和(he)分(fen)類分(fen)級監(jian)管(guan)(guan),要求國家有關主(zhu)管(guan)(guan)部門針(zhen)(zhen)對(dui)生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)技術(shu)(shu)特點及(ji)其在有關行(xing)業(ye)和(he)領域的(de)服(fu)務應(ying)用,完(wan)善與(yu)(yu)創(chuang)新(xin)(xin)發展(zhan)(zhan)相適應(ying)的(de)科(ke)學監(jian)管(guan)(guan)方式(shi)(shi)(shi)(shi),制定(ding)相應(ying)的(de)分(fen)類分(fen)級監(jian)管(guan)(guan)規(gui)則或(huo)者(zhe)指引。在促進(jin)發展(zhan)(zhan)具(ju)體措施(shi)上(shang),一是(shi)明確鼓(gu)勵生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)技術(shu)(shu)在各行(xing)業(ye)、各領域的(de)創(chuang)新(xin)(xin)應(ying)用,生(sheng)(sheng)成(cheng)積極健康、向上(shang)向善的(de)優質(zhi)內容,探(tan)索優化(hua)應(ying)用場景,構(gou)建(jian)應(ying)用生(sheng)(sheng)態體系。二(er)是(shi)支持(chi)行(xing)業(ye)組織、企(qi)業(ye)、教育和(he)科(ke)研機(ji)構(gou)、公(gong)共文化(hua)機(ji)構(gou)、有關專業(ye)機(ji)構(gou)等(deng)在生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)技術(shu)(shu)創(chuang)新(xin)(xin)、數(shu)據資(zi)源(yuan)建(jian)設、轉化(hua)應(ying)用、風險防范等(deng)方面開(kai)(kai)展(zhan)(zhan)協作。三是(shi)鼓(gu)勵生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)算(suan)(suan)(suan)(suan)法(fa)、框架、芯(xin)(xin)片及(ji)配套(tao)軟件(jian)平臺等(deng)基(ji)礎(chu)技術(shu)(shu)的(de)自主(zhu)創(chuang)新(xin)(xin),平等(deng)互利開(kai)(kai)展(zhan)(zhan)國際(ji)交流與(yu)(yu)合作,參(can)與(yu)(yu)生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)相關國際(ji)規(gui)則制定(ding)。四是(shi)提(ti)出推動生(sheng)(sheng)成(cheng)式(shi)(shi)(shi)(shi)人(ren)(ren)工(gong)(gong)智(zhi)(zhi)(zhi)能(neng)(neng)基(ji)礎(chu)設施(shi)和(he)公(gong)共訓(xun)練(lian)(lian)數(shu)據資(zi)源(yuan)平臺建(jian)設。促進(jin)算(suan)(suan)(suan)(suan)力(li)資(zi)源(yuan)協同共享,提(ti)升算(suan)(suan)(suan)(suan)力(li)資(zi)源(yuan)利用效能(neng)(neng)。推動公(gong)共數(shu)據分(fen)類分(fen)級有序開(kai)(kai)放,擴展(zhan)(zhan)高質(zhi)量的(de)公(gong)共訓(xun)練(lian)(lian)數(shu)據資(zi)源(yuan)。鼓(gu)勵采(cai)用安全(quan)可信的(de)芯(xin)(xin)片、軟件(jian)、工(gong)(gong)具(ju)、算(suan)(suan)(suan)(suan)力(li)和(he)數(shu)據資(zi)源(yuan)。
問:《辦法》明確提供和使用生成式人工智能服務應當遵守哪些規定?
答:《辦法(fa)(fa)(fa)》明確提供和(he)(he)(he)使(shi)用(yong)生成(cheng)式(shi)人(ren)(ren)工智能服(fu)(fu)務(wu)(wu)應當(dang)堅持社(she)會主(zhu)義(yi)核心價值(zhi)觀,不(bu)得(de)生成(cheng)煽動(dong)顛覆國(guo)家政權(quan)(quan)(quan)(quan)、推翻社(she)會主(zhu)義(yi)制度(du),危害(hai)國(guo)家安(an)全和(he)(he)(he)利益、損害(hai)國(guo)家形(xing)象(xiang),煽動(dong)分(fen)裂(lie)國(guo)家、破壞國(guo)家統(tong)一(yi)和(he)(he)(he)社(she)會穩定(ding),宣揚恐怖主(zhu)義(yi)、極端主(zhu)義(yi),宣揚民(min)族(zu)仇恨、民(min)族(zu)歧視,暴力、淫穢色情,以(yi)及虛假(jia)有(you)害(hai)信息等法(fa)(fa)(fa)律、行政法(fa)(fa)(fa)規禁止(zhi)的(de)(de)內(nei)容(rong);在算法(fa)(fa)(fa)設計、訓練數(shu)據(ju)選擇、模型生成(cheng)和(he)(he)(he)優化(hua)、提供服(fu)(fu)務(wu)(wu)等過程中(zhong),采(cai)取(qu)有(you)效(xiao)措施(shi)(shi)防(fang)止(zhi)產(chan)生民(min)族(zu)、信仰、國(guo)別(bie)、地域、性(xing)(xing)別(bie)、年(nian)齡、職業、健(jian)康等歧視;尊重(zhong)知識(shi)產(chan)權(quan)(quan)(quan)(quan)、商業道德,保(bao)守商業秘密,不(bu)得(de)利用(yong)算法(fa)(fa)(fa)、數(shu)據(ju)、平臺等優勢,實施(shi)(shi)壟斷(duan)和(he)(he)(he)不(bu)正當(dang)競爭行為(wei);尊重(zhong)他人(ren)(ren)合法(fa)(fa)(fa)權(quan)(quan)(quan)(quan)益,不(bu)得(de)危害(hai)他人(ren)(ren)身(shen)心健(jian)康,不(bu)得(de)侵害(hai)他人(ren)(ren)肖(xiao)像(xiang)權(quan)(quan)(quan)(quan)、名譽(yu)權(quan)(quan)(quan)(quan)、榮譽(yu)權(quan)(quan)(quan)(quan)、隱私(si)權(quan)(quan)(quan)(quan)和(he)(he)(he)個人(ren)(ren)信息權(quan)(quan)(quan)(quan)益;基于服(fu)(fu)務(wu)(wu)類(lei)型特點,采(cai)取(qu)有(you)效(xiao)措施(shi)(shi),提升生成(cheng)式(shi)人(ren)(ren)工智能服(fu)(fu)務(wu)(wu)的(de)(de)透(tou)明度(du),提高生成(cheng)內(nei)容(rong)的(de)(de)準確性(xing)(xing)和(he)(he)(he)可靠性(xing)(xing)。
問:《辦法》規定的治理制度主要有哪些?
答:《辦(ban)法(fa)(fa)》明(ming)確(que)生成(cheng)式(shi)人工(gong)智能(neng)服(fu)務(wu)提供者應當依法(fa)(fa)開展預(yu)訓(xun)(xun)練(lian)、優化訓(xun)(xun)練(lian)等(deng)訓(xun)(xun)練(lian)數(shu)據(ju)處理(li)活動,使用具有(you)合法(fa)(fa)來源的(de)(de)數(shu)據(ju)和基礎(chu)模型;涉(she)及知識(shi)產權的(de)(de),不得(de)侵害他人依法(fa)(fa)享(xiang)有(you)的(de)(de)知識(shi)產權;涉(she)及個人信息(xi)的(de)(de),應當取得(de)個人同(tong)意或者符合法(fa)(fa)律、行政法(fa)(fa)規(gui)規(gui)定的(de)(de)其他情(qing)形;采取有(you)效措施提高訓(xun)(xun)練(lian)數(shu)據(ju)質量,增強訓(xun)(xun)練(lian)數(shu)據(ju)的(de)(de)真(zhen)實性、準(zhun)確(que)性、客觀性、多樣性。此外,明(ming)確(que)了數(shu)據(ju)標注的(de)(de)相關要求。
問:《辦法》主要明確了哪些生成式人工智能服務規范?
答:《辦法(fa)(fa)》要求采(cai)(cai)取(qu)有效(xiao)措施防范(fan)未成(cheng)年(nian)人用(yong)戶過度依賴或者(zhe)沉迷生成(cheng)式人工智(zhi)能服務(wu)(wu)。規定提(ti)供(gong)者(zhe)應當按照(zhao)《互聯網信(xin)息服務(wu)(wu)深度合成(cheng)管(guan)(guan)理規定》對圖片、視頻等(deng)(deng)生成(cheng)內(nei)容(rong)進行標識。規定提(ti)供(gong)者(zhe)發(fa)現違法(fa)(fa)內(nei)容(rong)的(de),應當及(ji)時采(cai)(cai)取(qu)停止生成(cheng)、停止傳輸、消(xiao)除等(deng)(deng)處(chu)置措施并采(cai)(cai)取(qu)模型優(you)化(hua)訓(xun)練等(deng)(deng)措施進行整(zheng)改。明確(que)提(ti)供(gong)者(zhe)發(fa)現使用(yong)者(zhe)利用(yong)生成(cheng)式人工智(zhi)能服務(wu)(wu)從事違法(fa)(fa)活動的(de),應當依法(fa)(fa)依約(yue)采(cai)(cai)取(qu)有關處(chu)置措施,保存有關記錄,并向(xiang)有關主(zhu)管(guan)(guan)部門報(bao)告。
問:《辦法》對投訴、舉報作了哪些規定?
答:《辦法(fa)(fa)》規(gui)定提供者(zhe)應當建(jian)立健(jian)全投(tou)(tou)訴(su)、舉(ju)報(bao)(bao)機制,設置便捷的投(tou)(tou)訴(su)、舉(ju)報(bao)(bao)入口,公(gong)布處理流程和(he)反(fan)饋時(shi)限(xian),及時(shi)受理、處理公(gong)眾投(tou)(tou)訴(su)舉(ju)報(bao)(bao)并(bing)反(fan)饋處理結果。明確使用者(zhe)發現生成式人工(gong)智能服務不符合法(fa)(fa)律(lv)、行政法(fa)(fa)規(gui)和(he)本辦法(fa)(fa)規(gui)定的,有權向有關(guan)主管部門(men)投(tou)(tou)訴(su)、舉(ju)報(bao)(bao)。
《生成式人工智能服務(wu)管理暫(zan)行辦(ban)(ban)法(fa)》已經2023年5月23日國(guo)家(jia)(jia)互聯網(wang)信(xin)(xin)息(xi)辦(ban)(ban)公室2023年第(di)12次室務(wu)會會議(yi)審議(yi)通過,并經國(guo)家(jia)(jia)發展和(he)改革委員(yuan)會、教育(yu)部(bu)、科(ke)學技(ji)術部(bu)、工業和(he)信(xin)(xin)息(xi)化部(bu)、公安部(bu)、國(guo)家(jia)(jia)廣播(bo)電(dian)視總(zong)局(ju)同意,現予公布,自2023年8月15日起施行。
第一章 總 則
第一條 為了促(cu)進生(sheng)成式人(ren)工智(zhi)能健康發(fa)展和(he)(he)(he)規范應用,維護國(guo)(guo)(guo)家安全和(he)(he)(he)社會(hui)公(gong)共(gong)利益,保(bao)護公(gong)民、法(fa)(fa)(fa)人(ren)和(he)(he)(he)其他(ta)組(zu)織(zhi)的合法(fa)(fa)(fa)權益,根據《中(zhong)華(hua)人(ren)民共(gong)和(he)(he)(he)國(guo)(guo)(guo)網絡(luo)安全法(fa)(fa)(fa)》、《中(zhong)華(hua)人(ren)民共(gong)和(he)(he)(he)國(guo)(guo)(guo)數據安全法(fa)(fa)(fa)》、《中(zhong)華(hua)人(ren)民共(gong)和(he)(he)(he)國(guo)(guo)(guo)個人(ren)信(xin)息(xi)保(bao)護法(fa)(fa)(fa)》、《中(zhong)華(hua)人(ren)民共(gong)和(he)(he)(he)國(guo)(guo)(guo)科學技術進步法(fa)(fa)(fa)》等法(fa)(fa)(fa)律、行政法(fa)(fa)(fa)規,制定本(ben)辦(ban)法(fa)(fa)(fa)。
第二條(tiao) 利用(yong)(yong)生(sheng)(sheng)成(cheng)(cheng)式人工(gong)(gong)智(zhi)(zhi)能技術(shu)向中華人民共和國(guo)境內(nei)公(gong)眾(zhong)提供生(sheng)(sheng)成(cheng)(cheng)文(wen)本、圖片、音頻、視(shi)頻等內(nei)容的(de)(de)服(fu)務(以下稱(cheng)生(sheng)(sheng)成(cheng)(cheng)式人工(gong)(gong)智(zhi)(zhi)能服(fu)務),適(shi)用(yong)(yong)本辦法。國(guo)家對利用(yong)(yong)生(sheng)(sheng)成(cheng)(cheng)式人工(gong)(gong)智(zhi)(zhi)能服(fu)務從事(shi)新聞出版、影視(shi)制作、文(wen)藝創作等活(huo)動另有規(gui)定的(de)(de),從其規(gui)定。行業(ye)組(zu)織(zhi)、企業(ye)、教育(yu)和科研機構(gou)、公(gong)共文(wen)化機構(gou)、有關(guan)專(zhuan)業(ye)機構(gou)等研發、應(ying)用(yong)(yong)生(sheng)(sheng)成(cheng)(cheng)式人工(gong)(gong)智(zhi)(zhi)能技術(shu),未向境內(nei)公(gong)眾(zhong)提供生(sheng)(sheng)成(cheng)(cheng)式人工(gong)(gong)智(zhi)(zhi)能服(fu)務的(de)(de),不適(shi)用(yong)(yong)本辦法的(de)(de)規(gui)定。
第(di)三條 國家堅持發(fa)展(zhan)和安全(quan)并重、促進創新(xin)和依法治理相(xiang)結合的原則,采取有效措施鼓(gu)勵生成(cheng)式(shi)人(ren)工智能(neng)創新(xin)發(fa)展(zhan),對(dui)生成(cheng)式(shi)人(ren)工智能(neng)服(fu)務實行包容審慎和分類分級監管。
第(di)四條 提供和(he)使用(yong)生成式(shi)人工智能(neng)服務,應當遵守法律(lv)、行政法規,尊重(zhong)社(she)會公德(de)和(he)倫理道(dao)德(de),遵守以下規定:
(一)堅(jian)持社(she)會(hui)主(zhu)義(yi)核心(xin)價值觀,不得生成煽(shan)動顛覆國家政權、推翻社(she)會(hui)主(zhu)義(yi)制度,危害(hai)國家安全和利益(yi)、損害(hai)國家形象,煽(shan)動分裂國家、破壞國家統一和社(she)會(hui)穩定,宣揚恐怖主(zhu)義(yi)、極(ji)端主(zhu)義(yi),宣揚民族仇恨、民族歧視,暴力、淫穢色情,以及(ji)虛假有害(hai)信息(xi)等法(fa)(fa)律、行(xing)政法(fa)(fa)規禁止的內(nei)容;
(二)在算法設(she)計、訓(xun)練(lian)數據選擇、模型生成(cheng)和優化、提供服務等(deng)(deng)過程中,采(cai)取有(you)效(xiao)措(cuo)施防(fang)止產生民族、信(xin)仰、國別(bie)、地域、性別(bie)、年齡、職(zhi)業、健康等(deng)(deng)歧視;
(三(san))尊重(zhong)知識產(chan)權、商(shang)業道德,保(bao)守商(shang)業秘(mi)密(mi),不得利用算法(fa)、數(shu)據、平臺(tai)等優勢,實施壟斷(duan)和不正當競爭行為;
(四(si))尊重他(ta)人合(he)法(fa)權(quan)益,不得危(wei)害(hai)他(ta)人身心(xin)健康(kang),不得侵害(hai)他(ta)人肖像權(quan)、名(ming)譽權(quan)、榮譽權(quan)、隱私(si)權(quan)和個人信息(xi)權(quan)益;
(五(wu))基于服務(wu)類型特點,采取有效(xiao)措(cuo)施,提升生成(cheng)式人工智(zhi)能服務(wu)的透明度,提高(gao)生成(cheng)內容的準確性和可靠性。
第二章 技術(shu)發展與(yu)治理(li)
第五條(tiao) 鼓勵生(sheng)成(cheng)式人工智能技術在各行業(ye)、各領域的(de)創新應(ying)用,生(sheng)成(cheng)積極健康、向上向善(shan)的(de)優質內容(rong),探索優化應(ying)用場景(jing),構建(jian)應(ying)用生(sheng)態體系。
支持行業(ye)組織、企業(ye)、教育和科(ke)研(yan)機(ji)構(gou)(gou)、公共(gong)文化(hua)機(ji)構(gou)(gou)、有關(guan)專業(ye)機(ji)構(gou)(gou)等在生成式人工(gong)智能技(ji)術創新(xin)、數(shu)據資源(yuan)建設(she)、轉化(hua)應(ying)用、風險防范等方面開展協(xie)作。
第六(liu)條 鼓勵生成式人(ren)工智(zhi)能算法、框(kuang)架(jia)、芯片及配套軟件平臺等(deng)基礎技(ji)術的自主創(chuang)新,平等(deng)互利(li)開展國際交(jiao)流與合作,參與生成式人(ren)工智(zhi)能相關(guan)國際規則(ze)制定。
推(tui)(tui)動生成(cheng)式人工智能(neng)(neng)基礎設施和(he)公共訓(xun)練數(shu)據資(zi)(zi)源(yuan)(yuan)平臺建(jian)設。促進算(suan)(suan)力(li)資(zi)(zi)源(yuan)(yuan)協同(tong)共享,提升算(suan)(suan)力(li)資(zi)(zi)源(yuan)(yuan)利用效能(neng)(neng)。推(tui)(tui)動公共數(shu)據分類分級有序開放,擴展高(gao)質量的公共訓(xun)練數(shu)據資(zi)(zi)源(yuan)(yuan)。鼓勵采用安全可信的芯片、軟件(jian)、工具、算(suan)(suan)力(li)和(he)數(shu)據資(zi)(zi)源(yuan)(yuan)。
第七(qi)條 生成(cheng)式(shi)人(ren)工(gong)智能(neng)服務(wu)提供(gong)者(zhe)(以(yi)下(xia)稱(cheng)提供(gong)者(zhe))應當依法開(kai)展預訓(xun)練(lian)、優化(hua)訓(xun)練(lian)等訓(xun)練(lian)數據處理活動,遵守以(yi)下(xia)規定:
(一)使用具有合法來(lai)源(yuan)的數(shu)據和基礎模型;
(二)涉(she)及知(zhi)識(shi)產權的,不得侵害他人(ren)依法享有的知(zhi)識(shi)產權;
(三)涉及(ji)個(ge)人信(xin)息的(de)(de),應當(dang)取(qu)得個(ge)人同(tong)意或者符(fu)合法律、行政法規規定的(de)(de)其他情形(xing);
(四)采取有(you)效措(cuo)施提高訓練數(shu)(shu)據質量,增強訓練數(shu)(shu)據的真實性(xing)(xing)、準確性(xing)(xing)、客觀性(xing)(xing)、多樣性(xing)(xing);
(五)《中(zhong)華(hua)人(ren)民共和國(guo)網絡安全法》、《中(zhong)華(hua)人(ren)民共和國(guo)數(shu)據安全法》、《中(zhong)華(hua)人(ren)民共和國(guo)個人(ren)信息保護法》等法律、行(xing)政(zheng)法規的其他有關規定和有關主管(guan)部門的相(xiang)關監(jian)管(guan)要(yao)求。
第八條 在生成式人(ren)(ren)工智能技術研(yan)發過程中(zhong)進行數據(ju)標(biao)注(zhu)(zhu)(zhu)的,提供者(zhe)應(ying)當(dang)制定符合本辦法要求的清晰、具體、可(ke)操作的標(biao)注(zhu)(zhu)(zhu)規則(ze);開(kai)展數據(ju)標(biao)注(zhu)(zhu)(zhu)質(zhi)量評估(gu),抽(chou)樣核(he)驗標(biao)注(zhu)(zhu)(zhu)內容的準確性;對標(biao)注(zhu)(zhu)(zhu)人(ren)(ren)員進行必要培訓,提升尊法守法意識,監督(du)指導標(biao)注(zhu)(zhu)(zhu)人(ren)(ren)員規范開(kai)展標(biao)注(zhu)(zhu)(zhu)工作。
第三章 服務規范
第九條 提供者(zhe)應當依法承擔(dan)網絡信(xin)(xin)息(xi)內容(rong)生產者(zhe)責任,履(lv)行(xing)網絡信(xin)(xin)息(xi)安(an)全義務(wu)(wu)。涉及個人(ren)信(xin)(xin)息(xi)的,依法承擔(dan)個人(ren)信(xin)(xin)息(xi)處理(li)者(zhe)責任,履(lv)行(xing)個人(ren)信(xin)(xin)息(xi)保護義務(wu)(wu)。提供者(zhe)應當與注冊其服務(wu)(wu)的生成式人(ren)工(gong)智能服務(wu)(wu)使用(yong)者(zhe)(以(yi)下稱使用(yong)者(zhe))簽(qian)訂服務(wu)(wu)協議,明(ming)確雙(shuang)方權利義務(wu)(wu)。
第十條(tiao) 提供者應當明確(que)并公開其服務的適(shi)用(yong)人(ren)群、場合、用(yong)途,指導(dao)使用(yong)者科學理(li)性認識和依法使用(yong)生(sheng)成式人(ren)工智(zhi)能技術,采取有效措施防范未成年人(ren)用(yong)戶過度依賴或者沉迷生(sheng)成式人(ren)工智(zhi)能服務。
第十一條(tiao) 提(ti)供(gong)者(zhe)(zhe)對使(shi)(shi)(shi)(shi)用者(zhe)(zhe)的(de)輸(shu)入信(xin)息(xi)和(he)使(shi)(shi)(shi)(shi)用記(ji)錄(lu)應(ying)當(dang)依法履行保(bao)護義(yi)務(wu),不(bu)(bu)(bu)得(de)(de)收集(ji)非必要(yao)個(ge)人信(xin)息(xi),不(bu)(bu)(bu)得(de)(de)非法留存能夠(gou)識別使(shi)(shi)(shi)(shi)用者(zhe)(zhe)身份的(de)輸(shu)入信(xin)息(xi)和(he)使(shi)(shi)(shi)(shi)用記(ji)錄(lu),不(bu)(bu)(bu)得(de)(de)非法向(xiang)他人提(ti)供(gong)使(shi)(shi)(shi)(shi)用者(zhe)(zhe)的(de)輸(shu)入信(xin)息(xi)和(he)使(shi)(shi)(shi)(shi)用記(ji)錄(lu)。提(ti)供(gong)者(zhe)(zhe)應(ying)當(dang)依法及時受理(li)(li)和(he)處(chu)理(li)(li)個(ge)人關于查(cha)閱(yue)、復制、更正(zheng)、補(bu)充、刪除其個(ge)人信(xin)息(xi)等(deng)的(de)請求。
第十(shi)二(er)條 提供者應當按照《互聯網信息服務(wu)深度合成管理規(gui)定(ding)》對圖片、視頻等生成內容進行標識。
第(di)十(shi)三條 提供者應當在(zai)其服務過程(cheng)中,提供安(an)全、穩(wen)定、持續的服務,保障用戶正常使(shi)用。
第十四條 提供者發現違法(fa)內容的,應當及時采(cai)取(qu)停(ting)(ting)止(zhi)生(sheng)成(cheng)、停(ting)(ting)止(zhi)傳輸、消(xiao)除等處(chu)置措施,采(cai)取(qu)模型優化訓練等措施進行整改,并向有關主(zhu)管部(bu)門報告。
提供(gong)(gong)者發現(xian)使用者利用生成(cheng)式人工智(zhi)能服(fu)(fu)務(wu)從事違法活動的,應(ying)當依法依約采取警示、限制功能、暫停或(huo)者終止向其提供(gong)(gong)服(fu)(fu)務(wu)等處置措施(shi),保存有關(guan)記錄,并向有關(guan)主(zhu)管部門報告(gao)。
第十五(wu)條 提供者應當建立健全投(tou)訴、舉報(bao)機制,設置(zhi)便捷的(de)投(tou)訴、舉報(bao)入口,公(gong)布處理流(liu)程(cheng)和反饋時(shi)限(xian),及時(shi)受理、處理公(gong)眾投(tou)訴舉報(bao)并(bing)反饋處理結果。
第四章 監督(du)檢查(cha)和(he)法律責任
第十六條 網信、發展改革(ge)、教(jiao)育(yu)、科技、工業和信息化、公安、廣播電(dian)視、新聞(wen)出版等部門,依據各(ge)自職責依法加強對生成式人工智(zhi)能服(fu)務的管理。
國家(jia)有(you)關主(zhu)管(guan)部門(men)針對生成(cheng)式人工(gong)智能(neng)技術特(te)點及其在有(you)關行(xing)業(ye)和領域的(de)服(fu)務應用,完善(shan)與創新發展相適應的(de)科學監管(guan)方式,制定相應的(de)分類分級監管(guan)規則(ze)或者指引。
第十七條 提(ti)供(gong)具有輿論屬性(xing)或者(zhe)社會動員(yuan)能力(li)的(de)生成式人工智(zhi)能服務的(de),應當按照國(guo)家有關規定(ding)開展安全評(ping)估,并按照《互(hu)聯網信(xin)息(xi)服務算法推薦管理(li)規定(ding)》履(lv)行算法備案(an)和變更(geng)、注銷備案(an)手續。
第十八條 使用者發現生成式人工智能(neng)服務(wu)不符合法(fa)律、行政(zheng)法(fa)規(gui)和本辦法(fa)規(gui)定的,有(you)權(quan)向有(you)關主管部門投訴、舉報。
第(di)十九條 有(you)關(guan)主管部門(men)依據職(zhi)責對生成式(shi)人工智能服務開展監督檢(jian)查,提供者應當依法(fa)予(yu)以(yi)配合,按要求對訓練數據來源、規(gui)模、類型(xing)、標注規(gui)則(ze)、算(suan)法(fa)機制機理等(deng)予(yu)以(yi)說明,并提供必要的技術、數據等(deng)支持和協(xie)助。
參(can)與生成式人工智能服務安(an)全評估和監(jian)督檢(jian)查(cha)的相關機構和人員對在履行職責中知悉的國家秘密(mi)、商業秘密(mi)、個人隱(yin)私和個人信(xin)息應當依法(fa)予以(yi)保(bao)密(mi),不(bu)得(de)泄露或(huo)者非法(fa)向他人提供。
第二十條 對來源于中華人民(min)共和(he)國境(jing)外向境(jing)內提(ti)供(gong)生成式人工智能服務不符(fu)合法律、行(xing)政(zheng)法規(gui)和(he)本辦(ban)法規(gui)定的,國家(jia)網(wang)信部(bu)門應當通知(zhi)有關機構采取技術措(cuo)施和(he)其他必要措(cuo)施予(yu)以處置(zhi)。
第二十(shi)一(yi)條 提(ti)供者(zhe)違(wei)反(fan)本辦法規(gui)定的(de),由有(you)(you)關主管部門依(yi)照《中華人(ren)民共(gong)和(he)國(guo)網(wang)絡安(an)全法》、《中華人(ren)民共(gong)和(he)國(guo)數據安(an)全法》、《中華人(ren)民共(gong)和(he)國(guo)個人(ren)信息保護法》、《中華人(ren)民共(gong)和(he)國(guo)科學(xue)技術進步法》等法律(lv)、行政法規(gui)的(de)規(gui)定予(yu)以處罰(fa);法律(lv)、行政法規(gui)沒有(you)(you)規(gui)定的(de),由有(you)(you)關主管部門依(yi)據職(zhi)責予(yu)以警(jing)告、通報(bao)批評(ping),責令(ling)限期改(gai)正;拒(ju)不改(gai)正或者(zhe)情(qing)節嚴(yan)重的(de),責令(ling)暫停提(ti)供相關服務。
構成(cheng)違(wei)反治安(an)管理行為的,依法給予治安(an)管理處罰;構成(cheng)犯罪的,依法追究刑事責任。
第五章 附 則
第二十二條(tiao) 本辦法下列(lie)用語的含義是(shi):
(一)生(sheng)成式人工智能技術,是(shi)指(zhi)具有(you)文本、圖片、音(yin)頻、視(shi)頻等內(nei)容生(sheng)成能力(li)的模(mo)型及相關技術。
(二)生(sheng)(sheng)成(cheng)(cheng)式人(ren)工(gong)智(zhi)(zhi)能(neng)服務(wu)提供者,是指利用生(sheng)(sheng)成(cheng)(cheng)式人(ren)工(gong)智(zhi)(zhi)能(neng)技術提供生(sheng)(sheng)成(cheng)(cheng)式人(ren)工(gong)智(zhi)(zhi)能(neng)服務(wu)(包括通過提供可(ke)編程接口等方式提供生(sheng)(sheng)成(cheng)(cheng)式人(ren)工(gong)智(zhi)(zhi)能(neng)服務(wu))的(de)組織(zhi)、個人(ren)。
(三)生(sheng)成式人工(gong)智(zhi)(zhi)能(neng)服務使(shi)(shi)用者(zhe),是指(zhi)使(shi)(shi)用生(sheng)成式人工(gong)智(zhi)(zhi)能(neng)服務生(sheng)成內(nei)容的組織、個(ge)人。
第(di)二十三條 法律、行政法規(gui)規(gui)定提供(gong)生成式(shi)人(ren)工智能服(fu)務(wu)(wu)應當取得相(xiang)關行政許可的,提供(gong)者應當依法取得許可。外商投(tou)(tou)資生成式(shi)人(ren)工智能服(fu)務(wu)(wu),應當符合外商投(tou)(tou)資相(xiang)關法律、行政法規(gui)的規(gui)定。
第二十四條 本辦法自2023年8月15日起施行。
每日經濟新聞綜合網信中(zhong)國(guo)
如需轉載請與《每日經濟新聞》報社聯系。
未經(jing)《每日經(jing)濟新聞》報社授權,嚴禁轉載或鏡像,違者必(bi)究(jiu)。
讀者(zhe)熱線:4008890008
特別提(ti)醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望(wang)作品(pin)出(chu)現在本站,可聯(lian)系我們要(yao)求撤下(xia)您的(de)作品(pin)。
歡(huan)迎關注每日(ri)經濟新(xin)聞APP