每經編輯｜杜宇    

據央視財經，當地時間11月6日，美國著名投資人巴菲特執掌的伯克希爾-哈撒韋公司發表聲明，緊急澄清視頻平臺優兔上傳播的幾段關于巴菲特發表評論的視頻，是用人工智能偽造的“欺詐性視頻”，并非巴菲特本人錄制。

圖片來源：央視財經

6日，伯克希爾-哈撒韋公司在其網站上發表聲明稱，巴菲特注意到，優兔上傳播著幾段關于巴菲特發表評論的視頻，并配有偽造圖像或人工智能生成的圖像。一般來說，這類視頻圖像可能看起來像是巴菲特，但模仿者聲音單調，顯然不是巴菲特的聲音。巴菲特擔心，這類欺詐性視頻正在成為一種蔓延的病毒。因為，不熟悉巴菲特的人可能會認為這些視頻是真的，并被這些視頻的內容誤導。自5月伯克希爾股東大會以來，巴菲特很少公開發表評論。

出生于1930年的巴菲特，是全球著名的投資家。1957年，他成立巴菲特投資俱樂部，后于1965年收購瀕臨破產的紡織企業伯克希爾-哈撒韋公司，并通過卓越的投資決策，將其逐步轉變為全球最具價值的投資控股集團之一。

如今，利用生成式人工智能制造的虛假圖片、音頻和視頻信息等“深度偽造”內容正在快速傳播，被用來騷擾他人、詐騙金錢，甚至干擾選舉。業內分析人士指出，如何預防和阻止“深度偽造”內容誤導大眾，已成為擺在各國政府和科技巨頭面前的難題。美國目前在聯邦層面沒有旨在控制人工智能風險的法規。上個月，加州州長紐森簽署一項監管人工智能聊天機器人的法案，要求聊天機器人運營商在用戶與人工智能聊天機器人互動方面提供“關鍵”保護措施，如確保聊天機器人不與未成年人或其他弱勢群體談論自殺等話題。

圖片來源：視覺中國

事實上，不只是巴菲特這樣的投資大師深受AI偽造視頻之苦。在國內，也有不少學者、名人等成為AI假視頻的受害者。

今年3月，據央視財經報道，網絡上曾出現中國工程院院士張伯禮為某美白護膚品做宣傳的視頻。但張伯禮本人表示，這些內容全是假的，“我從來沒用過這個護膚品，我也沒做過這方面的宣傳，更沒研究過，所以里邊完全是編造的。”

據界面新聞，近日，演員溫崢嶸被AI盜播帶貨的新聞受到諸多關注。她自曝刷到AI盜播自己的直播間，上前質問竟被拉黑，以至于“我現在很難證明我是我。”

對此，抖音集團副總裁李亮11月6日在社交平臺發文稱，經核查后發現，被曝光的“三個直播間同時開播”案例并非發生在抖音平臺。經過與相關方聯系，并根據投訴線索核查，發現平臺上確實存在一些利用AI仿冒名人帶貨的短視頻內容。

李亮還表示，這類AI侵權仿冒行為，嚴重損害了創作者、商家及平臺在消費者心中的信譽，不符合平臺的長期利益，平臺非常重視并開展專項治理工作。AI內容侵權識別是行業性技術難題，惡意仿冒賬號也在不斷與平臺進行技術對抗，公司會持續加大投入應對挑戰，維護創作者、商家和消費者的合法權益。

面對亂象，中央網信辦于今年6月啟動了“清朗·整治AI技術濫用”專項行動第二階段工作，重點整治7類突出問題，包括利用AI制作發布色情低俗內容，利用AI假冒他人實施侵權違法行為。

我國已有多部法律法規對AI內容規范做出了要求，例如，網絡安全法第22條和《生成式人工智能服務管理暫行辦法》第9條及第11條對個人信息保護作出了明確要求；《互聯網信息服務深度合成管理規定》第6條禁止任何組織和個人利用深度合成服務侵犯他人合法權益等，第10條要求深度合成服務提供者必須采取技術或人工方式，對輸入數據和合成結果進行審核。

9月1日起施行的《人工智能生成合成內容標識辦法》則對標注進行了更加清晰的指引。該辦法強調，任何組織和個人不得惡意刪除、篡改、偽造、隱匿生成合成內容標識，不得通過不正當標識手段損害他人合法權益。

每日經濟新聞綜合央視財經、界面新聞、公開資料

封面圖片來源：央視財經