每經(jing)記者(zhe)｜楊昕(xin)怡    每經(jing)編輯｜董興(xing)生    

AI技術(shu)飛速發(fa)展給每個領域帶來的，既是(shi)一次(ci)來自新時代的重塑，也(ye)是(shi)一場前所未有(you)的挑戰。

“在AI技術的(de)加持(chi)下，我們發(fa)(fa)現網(wang)絡謠言(yan)的(de)發(fa)(fa)展呈現出(chu)了(le)一些新的(de)特征。”在2月(yue)24日(ri)(ri)舉辦的(de)今日(ri)(ri)頭條“平臺(tai)治理開放日(ri)(ri)”活(huo)動(dong)上，清華大學新聞與傳(chuan)(chuan)播學院副教授陸洪磊表示(shi)，AI謠言(yan)在跨平臺(tai)影響力、傳(chuan)(chuan)播速度以及逼真性上都(dou)比傳(chuan)(chuan)統謠言(yan)更具破壞性。

作為國內一大內容平臺，面(mian)對“進(jin)化”中(zhong)的虛假(jia)信息和(he)低質內容，今日頭條的攔截(jie)措施(shi)也(ye)在與時俱進(jin)。

“人(ren)(ren)工審核(he)的投(tou)入會越來(lai)越少，因為頭條上的發文量級巨大，純靠人(ren)(ren)去(qu)審核(he)是不可能的，所以目(mu)前(qian)占比90%以上的審核(he)通過機器(qi)來(lai)做(zuo)。”今日(ri)(ri)頭條安全運營負(fu)責人(ren)(ren)閆夢(meng)茹在(zai)接受《每(mei)日(ri)(ri)經(jing)濟新聞》記(ji)者采訪(fang)時(shi)表示(shi)，“但機器(qi)審核(he)的準(zhun)(zhun)確率還不是100%，沒有(you)人(ren)(ren)工準(zhun)(zhun)確，需要人(ren)(ren)不斷去(qu)校準(zhun)(zhun)機器(qi)、給它(ta)投(tou)喂更準(zhun)(zhun)確的樣(yang)本去(qu)訓練(lian)它(ta)。”

圖片(pian)來(lai)源：每經記者 楊昕怡 攝

“除了謠言這一‘老課題’，低質AI（內容(rong)）的治(zhi)(zhi)理(li)(li)是我們的一個(ge)新命(ming)題。”今日頭(tou)條生態治(zhi)(zhi)理(li)(li)運營負責人韓(han)雨桐表示，“在過去一年中(zhong)，我們對于(yu)低質AI發文(wen)治(zhi)(zhi)理(li)(li)工作投入(ru)了大量(liang)的精力，包括但(dan)不限于(yu)不斷升級、迭代AI低質模型(xing)的識別能(neng)力，收嚴低質AI內容(rong)治(zhi)(zhi)理(li)(li)標準等。”

記者在活動現場了解到，2024年(nian)，今日頭條(tiao)對(dui)超(chao)93萬條(tiao)低質AI內容進行(xing)了識(shi)別(bie)和管控；對(dui)近(jin)3萬個利用AI批(pi)量(liang)發布虛假低質內容或惡意抄襲、洗稿他人的賬號(hao)進行(xing)了處罰；站內用戶對(dui)AI相關(guan)的負向反饋聲(sheng)量(liang)，從年(nian)初的每天近(jin)28條(tiao)降低至目前的每天1到2條(tiao)。

“90%以上的審核通過機器”，今日頭條“用魔法打敗魔法”

AI時代的信息爆炸中(zhong)，虛假信息和低質內容(rong)的泛(fan)濫為內容(rong)平臺治理設(she)下了重重難關。

首先在低(di)質(zhi)量的同質(zhi)化內(nei)容(rong)治(zhi)理上，閆夢茹(ru)指出(chu)，近年來AI技術(shu)快(kuai)速發展，大模型能力(li)迭代快(kuai)、效果(guo)好。雖然提(ti)高了創作者(zhe)的寫(xie)作效率，但也降低(di)了低(di)質(zhi)內(nei)容(rong)的洗(xi)(xi)稿(gao)成本。并且，現在市面上出(chu)現了很多專業化洗(xi)(xi)稿(gao)工具(ju)，可以(yi)支持綁定賬號批量提(ti)供AI文章(zhang)，還(huan)可以(yi)招聘兼職(zhi)人員(yuan)批量復制發文。

她(ta)表示，相比(bi)其他平臺(tai)，今(jin)日頭條在時政(zheng)、歷史等領域內容的(de)用(yong)戶更多，“所以我(wo)們的(de)治理難度也會(hui)更大”。

對于同質化(hua)內(nei)容(rong)的發現和(he)識(shi)(shi)別方式，閆夢(meng)茹介紹(shao)，今(jin)日(ri)頭條內(nei)部有巡(xun)(xun)查(cha)團隊，實時巡(xun)(xun)查(cha)站(zhan)內(nei)高風險的同質化(hua)內(nei)容(rong)。其次，內(nei)部會通過模(mo)型識(shi)(shi)別和(he)人工評(ping)估(gu)相結合(he)的方式，對同質化(hua)內(nei)容(rong)進行二次與綜(zong)合(he)判定和(he)評(ping)估(gu)，以確保準確性。

“在(zai)堅持AI低(di)質內容治理層(ceng)面，目前常用(yong)的手段(duan)其實(shi)就是(shi)在(zai)拿(na)AI去對抗AI。”陸洪磊提(ti)出了三(san)點治理建議，分別(bie)(bie)是(shi)迭代(dai)、加強(qiang)(qiang)機器(qi)識別(bie)(bie)能(neng)力，加強(qiang)(qiang)人工(gong)審核能(neng)力以及上線“AI創作標簽”來幫助用(yong)戶鑒別(bie)(bie)AI內容，保持理性思考(kao)。

對此(ci)，閆(yan)夢茹表示，目前今日(ri)頭條在人工(gong)審核的(de)投入(ru)會越來(lai)越少，“占比90%以上的(de)審核通過機器來(lai)做(zuo)”。“但機器審核有弊端，準確率(lv)還不是100%，沒有人工(gong)準確，需要人不斷去校準機器、給它(ta)投喂更(geng)準確的(de)樣本去訓練(lian)它(ta)。”

她向記(ji)者表(biao)示，內(nei)部在(zai)內(nei)容(rong)治理上運用了多個(ge)不同類別的(de)(de)模型(xing)。“比如(ru)在(zai)處理虛(xu)假內(nei)容(rong)問(wen)題上，可能有(you)大(da)大(da)小(xiao)小(xiao)幾十個(ge)模型(xing)，每(mei)個(ge)效果都不太一樣(yang)，最好的(de)(de)（模型(xing)）在(zai)‘實錘’謠(yao)言(yan)上的(de)(de)準確率有(you)100%。”

同時，韓雨桐(tong)介(jie)紹(shao)，對于虛假(jia)謠(yao)言，今日頭條早已建立起三大核心(xin)治(zhi)理能力，包(bao)括謠(yao)言庫(ku)、權威信源庫(ku)以(yi)及專業(ye)審核團(tuan)隊。

她還指(zhi)出，今日頭(tou)條于2024年在發文下方(fang)增加(jia)權威媒體(ti)報道來源(yuan)標簽，在保障資訊真(zhen)實性的基礎上，為用戶提供了更多(duo)客觀視(shi)角。

記(ji)者了解到，2024年，今日(ri)頭(tou)條(tiao)累計攔(lan)截不實信息超(chao)500萬條(tiao)，封禁(jin)造(zao)謠(yao)(yao)、傳謠(yao)(yao)等違規賬號4.77萬個；平臺去年全(quan)年還攔(lan)截和處置涉嫌(xian)詐(zha)騙(pian)內容超(chao)200萬條(tiao)，禁(jin)封涉嫌(xian)詐(zha)騙(pian)賬號17.85萬個，配合(he)警(jing)方抓捕(bu)87人。

“認知戰爭”面前，內容平臺如何獲得主動權？

“我們正面臨一場前(qian)所(suo)未(wei)有的(de)認(ren)知(zhi)戰爭。”在陸洪磊看來(lai)，過去的(de)謠(yao)言是一種隱蔽的(de)、分散(san)的(de)公眾情緒，而網絡時代的(de)謠(yao)言往往具備新聞性、說服性、非官方性和強(qiang)傳播性。“新的(de)AI謠(yao)言將(jiang)越來(lai)越逼近真話(hua)，專業媒(mei)體人可能都要進行實時核查(cha)才能判(pan)斷(duan)這個消息是不是真的(de)，它的(de)破壞性將(jiang)成倍增加。”

例如(ru)，今年(nian)1月西(xi)藏日喀則市定日縣(xian)突發6.8級地(di)(di)震后，一張廢(fei)墟中(zhong)被(bei)埋(mai)兒童的(de)照片在社交(jiao)平臺熱傳，引發公眾關切(qie)。而(er)后經查證，該圖實為2024年(nian)11月某創作(zuo)者標注的(de)AI生成作(zuo)品，被(bei)部分自媒體盜用并打(da)上地(di)(di)震相關標簽博取流量。

另外，清華大(da)學新聞與(yu)傳播學院新媒體研究(jiu)中心在2024年(nian)4月發布的(de)一份(fen)研究(jiu)報告顯示，近一年(nian)來(lai)，經濟與(yu)企(qi)業類(lei)AI謠言量增速達(da)99.91%。

在開放日(ri)現場，北京師范大學法學院院長、教授梁(liang)迎修表示，對于AI虛(xu)假謠(yao)言，網絡(luo)平臺(tai)要積極(ji)承擔社會責任(ren)，重(zhong)視內容(rong)整治，同時政府機(ji)構、媒體(ti)、公眾等更應加強協同，網絡(luo)謠(yao)言治理(li)需要多方綜合施策(ce)。

“一方(fang)面我(wo)們要去(qu)打擊、消滅假的(de)(de)信(xin)息(xi)，另一方(fang)面也希望用平臺的(de)(de)力(li)量(liang)去(qu)主動傳(chuan)播真實的(de)(de)信(xin)息(xi)。”今(jin)日(ri)頭條內容策(ce)劃負(fu)責人劉(liu)姍(shan)姍(shan)在開(kai)放日(ri)現(xian)場談(tan)及了《頭條講真的(de)(de)》項目的(de)(de)創辦初衷。

記(ji)者(zhe)了(le)解到，自2023年以來，今(jin)日頭條(tiao)推出了(le)《頭條(tiao)講真(zhen)的(de)》項目(mu)。該項目(mu)以“傳播真(zhen)實信息”為理念，把“硬(ying)核科普(pu)”作為主要傳播方(fang)向，平臺聯合醫學(xue)、財經、法律(lv)等領域專業創作者(zhe)，為用戶進(jin)行辟謠(yao)、反(fan)詐宣傳。截至2024年，《頭條(tiao)講真(zhen)的(de)》發布科普(pu)、辟謠(yao)等主題視頻(pin)在(zai)全網(wang)話題討論量(liang)已(yi)超(chao)36億。

“在合作(zuo)(zuo)(zuo)創(chuang)作(zuo)(zuo)(zuo)者(zhe)的(de)選擇上，我(wo)(wo)們肯(ken)定會(hui)選擇在今日(ri)頭(tou)條(tiao)上有(you)賬號、比較活(huo)躍、平臺數(shu)(shu)據也(ye)比較好的(de)創(chuang)作(zuo)(zuo)(zuo)者(zhe)。另外，跟作(zuo)(zuo)(zuo)者(zhe)溝通過(guo)程(cheng)中(zhong)(zhong)，我(wo)(wo)們也(ye)會(hui)不斷傳(chuan)達平臺對于治(zhi)理(li)的(de)決心，讓創(chuang)作(zuo)(zuo)(zuo)者(zhe)能夠在創(chuang)作(zuo)(zuo)(zuo)過(guo)程(cheng)中(zhong)(zhong)融入(ru)更多今日(ri)頭(tou)條(tiao)的(de)信息內(nei)容(rong)，以(yi)及今日(ri)頭(tou)條(tiao)如何(he)做科普(pu)辟謠等。”劉姍姍向(xiang)記(ji)者(zhe)表(biao)示，“從調研的(de)數(shu)(shu)據中(zhong)(zhong)發現(xian)，通過(guo)一系(xi)列合作(zuo)(zuo)(zuo)，用戶會(hui)看到(dao)今日(ri)頭(tou)條(tiao)官(guan)方‘下場(chang)了’，和科普(pu)創(chuang)作(zuo)(zuo)(zuo)者(zhe)一起進行內(nei)容(rong)輸出(chu)，用戶能明顯認(ren)知到(dao)這(zhe)個內(nei)容(rong)是今日(ri)頭(tou)條(tiao)作(zuo)(zuo)(zuo)為一個主體參與其中(zhong)(zhong)的(de)。”