每(mei)經(jing)編輯｜盧祥勇     

近年(nian)來，“AI換臉”走紅網絡(luo)，一些“AI換臉”的(de)App使用明星的(de)圖片制作(zuo)換臉視頻進行推廣(guang)，其趣(qu)味(wei)性背后暗藏不少法(fa)律(lv)風險和侵權糾紛(fen)。

4月7日，浙江(jiang)杭州蕭山區檢察院曝光的(de)一個“女神群(qun)(qun)”，引發關(guan)注。名(ming)為(wei)“女神群(qun)(qun)”，群(qun)(qun)成員卻(que)都是一群(qun)(qun)大(da)老爺們。每天都不(bu)停(ting)地有人(ren)入群(qun)(qun)，但除了群(qun)(qun)主虞某外，很少(shao)有人(ren)發言。這個群(qun)(qun)里究竟有著怎樣(yang)的(de)秘密？

“女神群”里的秘密

早在2020年(nian)，“AI換(huan)臉”剛剛在國外興起的時候，80后安(an)徽小伙虞某就(jiu)對(dui)它(ta)產生了(le)(le)興趣，自學掌握了(le)(le)這門(men)技術。

后(hou)來(lai)隨著“AI換(huan)臉”技術的走紅，讓虞某嗅(xiu)到了商機。他想到在網(wang)上推(tui)廣該(gai)項技術及(ji)相關的軟件，并從(cong)中獲利。

但一(yi)(yi)段時間過去，虞某卻始終沒(mei)有(you)(you)獲得什么(me)關(guan)注(zhu)度。偶然的(de)一(yi)(yi)次(ci)機會，虞某看(kan)到有(you)(you)些人(ren)會在群里(li)發布一(yi)(yi)些淫穢信息來(lai)吸引他人(ren)關(guan)注(zhu)，就也動起了歪腦筋。

虞某(mou)先是將原(yuan)本建的(de)“換臉軟件資源群(qun)”的(de)群(qun)名更改為“女(nv)神試看(kan)(kan)(kan)群(qun)”，后又通過互聯(lian)網下載了(le)部分淫(yin)穢視頻，截(jie)取片段后發(fa)布在(zai)該(gai)公(gong)開群(qun)中，吸引、招攬觀看(kan)(kan)(kan)者(zhe)加(jia)入(ru)。當觀看(kan)(kan)(kan)者(zhe)達到(dao)一定人(ren)數后，虞某(mou)會(hui)發(fa)布群(qun)消息稱，繳納198元(yuan)-498元(yuan)不等的(de)“會(hui)費(fei)”，進入(ru)“內部群(qun)”可以收(shou)看(kan)(kan)(kan)完整版。

除此之外，虞某表示，“內部群”里發送(song)的(de)淫穢視頻(pin)有不(bu)少是由其本人使用(yong)“AI換臉技術”合成的(de)，根據顧客的(de)需要還(huan)可以使用(yong)不(bu)同(tong)的(de)女(nv)明星的(de)形(xing)象，進行(xing)“私(si)人定制(zhi)”。其中，經警方查(cha)實，幾(ji)位人氣女(nv)明星成了虞某“AI換臉”淫穢視頻(pin)的(de)“重災區(qu)”。

一面通過“吸粉引流”，收取會(hui)費(fei)；一面又通過出售“換(huan)臉軟件”，頻(pin)頻(pin)獲利。虞某短短幾個月的時間(jian)里(li)就收獲了數(shu)萬(wan)元。截(jie)至案發，公(gong)安機(ji)關共在虞某所組建的公(gong)開群內查(cha)證(zheng)淫穢(hui)視頻(pin)1200余(yu)部、圖(tu)片1600余(yu)張，經鑒定，上述均系淫穢(hui)物(wu)品。

2023年(nian)3月28日，蕭山區檢察院依(yi)法以(yi)制(zhi)作、傳播淫穢物(wu)品(pin)牟利罪對虞(yu)某提起公(gong)訴。案件目(mu)前正在法院審理中。

律師：無論盈利與否

未經授權即涉嫌侵權

“AI換(huan)臉技(ji)術”頻(pin)頻(pin)被(bei)一(yi)些(xie)犯罪分(fen)(fen)子盯上，除了女明星(xing)外，部分(fen)(fen)不法分(fen)(fen)子還將“AI換(huan)臉技(ji)術”使用在普(pu)通人身上，由此制造一(yi)些(xie)所謂的(de)遭泄露的(de)“私密照(zhao)片”，對當事(shi)人實施敲詐勒索。

杭州蕭山檢察官提(ti)醒，即(ji)便只是(shi)(shi)用“AI換臉技術(shu)”來搞笑(xiao)或(huo)者制作惡搞照片，也(ye)有(you)可能(neng)涉及侵犯肖像(xiang)權、名譽(yu)權，造成嚴重(zhong)后(hou)果(guo)的(de)(de)，還可能(neng)構(gou)成侮辱罪或(huo)者誹(fei)謗罪。這不是(shi)(shi)開玩笑(xiao)！希望大家依法使用該項技術(shu)，一(yi)旦遇到類(lei)似本(ben)案中利(li)用AI技術(shu)實施犯罪行為(wei)的(de)(de)，應(ying)第一(yi)時間固定證據(ju)，并及時向司法機關報案。

類似事(shi)件(jian)近日已出現多起。比如廣州一(yi)女(nv)子(zi)在(zai)地鐵上的(de)照片被他人使(shi)用AI技術“一(yi)鍵脫衣(yi)”，虛(xu)假圖片在(zai)網絡廣泛傳播。此前，某男網紅使(shi)用“AI換(huan)臉”技術，替換(huan)掉電(dian)視劇中的(de)男主角(jiao)頭像，制作自己與(yu)女(nv)明星親吻的(de)畫面(mian)，同樣(yang)引(yin)發爭(zheng)議。

此前報道：男網紅(hong)AI換臉熱吻女星引爭議

南方(fang)日報記(ji)者(zhe)近日調查(cha)發現，互聯網上有(you)人售賣人臉合成(cheng)視(shi)頻制(zhi)作教(jiao)程和明(ming)星人臉“萬能模(mo)型”，一套(tao)模(mo)型只需10元，購買(mai)后可在軟件(jian)內(nei)直接用于(yu)生成(cheng)“換臉”視(shi)頻。

針對(dui)“‘換(huan)頭’親吻(wen)女明(ming)星”事件，南方日報報道稱，廣東(dong)立(li)幸律(lv)師事務所律(lv)師莫圣瑋(wei)認為(wei)，男網紅(hong)利(li)(li)用技術手段制作(zuo)自己與女明(ming)星“親吻(wen)”的(de)畫(hua)面，可(ke)能(neng)(neng)侵犯了女明(ming)星的(de)肖像權(quan)和名譽(yu)權(quan)。而其在(zai)未取得影(ying)視(shi)作(zuo)品授(shou)權(quan)情況下對(dui)作(zuo)品進行二(er)次創作(zuo)，并發布用于營(ying)利(li)(li)，還(huan)可(ke)能(neng)(neng)構成對(dui)影(ying)視(shi)作(zuo)品版權(quan)的(de)侵權(quan)。

在(zai)女子被“一鍵(jian)脫(tuo)衣”事件(jian)中，莫(mo)圣瑋認為(wei)，造謠(yao)者除侵犯受害者民事權益，可(ke)能還涉嫌誹謗罪、侮辱罪，如果大量傳播照片(pian)并牟利的，則涉嫌傳播淫穢物品罪。

加強對(dui)“AI換臉”等(deng)深度(du)合成技術的規范，有關部(bu)門一直在(zai)行動(dong)。

今年1月，《互聯網(wang)信(xin)(xin)息服務深度(du)合(he)成管理規定》實施(shi)，其中(zhong)明確規定網(wang)信(xin)(xin)部門(men)和電信(xin)(xin)主管部門(men)、公安部門(men)等(deng)監(jian)管部門(men)，需要加(jia)強(qiang)監(jian)督(du)檢(jian)查、技術治理，對不(bu)當使(shi)用AI合(he)成技術的機構和人員(yuan)，按照有(you)關法律、行政法規采取措施(shi)，進行整改；造成嚴(yan)重(zhong)后果的，依法從(cong)重(zhong)處(chu)罰。

編輯|盧祥勇 杜恒峰(feng)

校對|王月龍

每日經濟(ji)新聞綜合自蕭山檢察、杭州(zhou)日報、南方日報