為規范AI服(fu)務和(he)應用，促進行(xing)業健康有序發(fa)展(zhan)，保障公民(min)合法權(quan)益(yi)，近日，中(zhong)央網(wang)信辦印發(fa)通知，在全(quan)國范圍內(nei)部署開展(zhan)為期3個(ge)月的“清(qing)朗·整(zheng)治AI技術(shu)濫用”專項行(xing)動。

中(zhong)央網信辦有(you)關(guan)(guan)負責人(ren)表示(shi)，本次專項行動分(fen)兩個階(jie)段(duan)開展。第(di)一階(jie)段(duan)強化(hua)AI技術源頭治理(li)，清(qing)理(li)整(zheng)治違規AI應用程序，加強AI生成(cheng)合成(cheng)技術和內(nei)容(rong)標識管理(li)，推動網站平臺(tai)提升檢測鑒(jian)偽能(neng)力。第(di)二階(jie)段(duan)聚(ju)焦(jiao)利用AI技術制作發布(bu)謠言(yan)、不(bu)實(shi)信息、色情低俗(su)內(nei)容(rong)，假冒他人(ren)、從(cong)事網絡水(shui)軍活動等突出問題，集(ji)中(zhong)清(qing)理(li)相關(guan)(guan)違法不(bu)良信息，處(chu)置處(chu)罰違規賬號(hao)、MCN機構和網站平臺(tai)。

第一階段重點整治6類突出問題：一是違規AI產品。利用生成式人工智能技術向公眾提供內容服務，但未履行大模型備案或登記程序。提供“一鍵脫衣”等違背法律、倫理的功能。在未經授權同意情況下，克隆、編輯他人聲音、人臉等生物特征信息，侵犯他人隱私。二是傳授、售賣違規AI產品教程和商品。傳授利用違規AI產品偽造換臉視頻、換聲音頻等教程信息。售賣違規“語音合成器”“換臉工具”等商品信息。營銷、炒作、推廣違規AI產品信息。三是訓練語料管理不嚴。使用侵犯他人知識產權、隱私權等權益的信息。使用網上爬取的虛假、無效、不實內容。使用非法來源數據。未建立訓練語料管理機制，未定期排查清理違規語料。四是安全管理措施薄弱。未建立與業務規模相適應的內容審核、意圖識別等安全措施。未建立有效的違規賬號管理機制。未定期開展安全自評估。社交平臺對通過API接口接入的AI自動回復等服務底數不清、把關不嚴。五是未落實內容標識要求。服務提供者未對深度合成內容添加隱式、顯式內容標識，未向使用者提供或提示顯式內容標識功能。內容傳播平臺未開展生成合成內容監測甄別，導致虛假信息誤導公眾。六是重點領域安全風險。已備案AI產(chan)品提供醫療(liao)、金(jin)融(rong)、未成年人等重點領域問答(da)服(fu)務的，未針對性(xing)設置(zhi)行(xing)業領域安全審(shen)核和控制措(cuo)施(shi)，出現“AI開處方”“誘導(dao)投資(zi)”“AI幻覺”等問題(ti)，誤導(dao)學生、患者(zhe)，擾(rao)亂金(jin)融(rong)市場(chang)秩序。

第二階段重點整治7類突出問題：一是利用AI制作發布謠言。無中生有、憑空捏造涉時事政治、公共政策、社會民生、國際關系、突發事件等各類謠言信息，或擅自妄測、惡意解讀重大方針政策。借突發案事件、災難事故等，編造、捏造原因、進展、細節等。冒充官方新聞發布會或新聞報道，發布謠言信息。利用AI認知偏差生成的內容進行惡意引導。二是利用AI制作發布不實信息。將無關圖文、視頻拼湊剪輯，生成虛實混雜、半真半假的信息。模糊修改事件發生的時間、地點、人物等要素，翻炒舊聞。制作發布涉財經、教育、司法、醫療衛生等專業領域的夸大、偽科學等不實內容。借助AI算命、AI占卜等誤導欺騙網民，傳播迷信思想。三是利用AI制作發布色情低俗內容。利用AI脫衣、AI繪圖等功能生成合成色情內容或他人不雅圖片、視頻，衣著暴露、搔首弄姿等軟色情、二次元擦邊形象，或扮丑風等導向不良內容。制作發布血腥暴力場景，人體扭曲變形、超現實怪物等恐怖詭譎畫面。生成合成“小黃文”“葷段子”等性暗示意味明顯的小說、帖文、筆記。四是利用AI假冒他人實施侵權違法行為。通過AI換臉、聲音克隆等深度偽造技術，假冒專家、企業家、明星等公眾人物，欺騙網民，甚至營銷牟利。借AI對公眾人物或歷史人物進行惡搞、抹黑、歪曲、異化。利用AI冒充親友，從事網絡詐騙等違法活動。不當使用AI“復活逝者”，濫用逝者信息。五是利用AI從事網絡水軍活動。利用AI技術“養號”，模擬真人批量注冊、運營社交賬號。利用AI內容農場或AI洗稿，批量生成發布低質同質化文案，博取流量。使用AI群控軟件、社交機器人批量點贊跟帖評論，刷量控評，制造熱點話題上榜。六是AI產品服務和應用程序違規。制作和傳播仿冒、套殼AI網站和應用程序。AI應用程序提供違規功能服務，例如創作類工具提供“熱搜熱榜熱點擴寫成文”等功能，AI社交、陪聊軟件等提供低俗軟色情對話服務等。提供違規AI應用程序、生成合成服務或課程的售賣、推廣引流等。七是侵害未成年人權益。AI應用(yong)程序誘(you)導未(wei)成(cheng)年(nian)人沉(chen)迷、在未(wei)成(cheng)年(nian)人模式下存在影響未(wei)成(cheng)年(nian)人身心(xin)健康的(de)內容等。

中(zhong)央網信辦有關負責(ze)人(ren)強(qiang)調，各地(di)網信部(bu)門要充分認(ren)(ren)識專項行(xing)動(dong)(dong)對于防范AI技(ji)術濫用風險，維護網民合法(fa)權益的(de)重要意義。切實履(lv)行(xing)屬地(di)管理(li)責(ze)任，督導網站平臺對照專項行(xing)動(dong)(dong)有關要求(qiu)，健全AI生成合成內容(rong)審核(he)機制(zhi)，提升(sheng)技(ji)術檢(jian)測(ce)能(neng)力，做好(hao)整改落實。加強(qiang)人(ren)工(gong)智(zhi)能(neng)相關政策(ce)的(de)宣傳推廣和(he)人(ren)工(gong)智(zhi)能(neng)素(su)養的(de)科普教育，引導各方(fang)正確認(ren)(ren)識和(he)應用人(ren)工(gong)智(zhi)能(neng)技(ji)術，不斷凝聚治理(li)共(gong)識。

封面圖片來(lai)源：視覺中國-VCG41N2155090857