核心要點
- 本周，與委內(nèi)瑞拉局勢及該國被罷免領(lǐng)導(dǎo)人尼古拉斯?馬杜羅相關(guān)的誤導(dǎo)性人工智能生成視頻和圖片，在各大平臺收獲數(shù)百萬次瀏覽量。
- 與此同時，主流社交媒體平臺及其人工智能檢測工具正難以跟上人工智能技術(shù)的發(fā)展速度，在突發(fā)新聞事件期間，這一問題尤為突出。
在美國軍方采取行動推翻委內(nèi)瑞拉領(lǐng)導(dǎo)人尼古拉斯?馬杜羅之后，一批聲稱展現(xiàn)委內(nèi)瑞拉民眾街頭歡慶場景的人工智能生成視頻在社交媒體上迅速走紅。
這些由人工智能合成的視頻片段描繪了民眾歡呼雀躍的畫面，在抖音、照片墻和 “X” 平臺等主流社交平臺上累計獲得數(shù)百萬次觀看。
“X” 平臺上最早且傳播最廣的相關(guān)視頻片段之一，由名為 “華爾街猿” 的賬號發(fā)布，該賬號在平臺上擁有超過 100 萬粉絲。
這條帖子呈現(xiàn)了多名委內(nèi)瑞拉民眾喜極而泣的場景，畫面中的民眾還對美國及總統(tǒng)唐納德?特朗普推翻馬杜羅的行為表達了感謝。
該視頻隨后被 “X” 平臺的 “社區(qū)備注” 功能標(biāo)記。這一功能是平臺依托用戶眾包開展的事實核查機制，允許用戶為其認為具有誤導(dǎo)性的帖子補充背景信息。備注內(nèi)容顯示：“此視頻由人工智能生成，目前被當(dāng)作真實事件傳播，意在誤導(dǎo)公眾?！?/p>
這條視頻的瀏覽量已超 560 萬次，被至少 3.8 萬個賬號轉(zhuǎn)發(fā)分享，其中包括商界大亨埃隆?馬斯克，不過馬斯克最終刪除了該轉(zhuǎn)發(fā)內(nèi)容。
美國消費者新聞與商業(yè)頻道（CNBC）未能核實該視頻的來源，但英國廣播公司（BBC）和法新社（AFP）的事實核查人員表示，已知的該視頻最早版本出現(xiàn)在抖音賬號 “@美國好奇智庫”，該賬號經(jīng)常發(fā)布人工智能生成內(nèi)容。
事實上，早在這類視頻出現(xiàn)之前，在特朗普政府發(fā)布馬杜羅被捕的真實照片前，網(wǎng)絡(luò)上就已經(jīng)流傳著由人工智能生成的馬杜羅被美方羈押的相關(guān)圖片。
這位委內(nèi)瑞拉前總統(tǒng)于 2026 年 1 月 3 日被捕，當(dāng)時美軍發(fā)動了空襲與地面突襲行動。這場軍事行動在新年伊始占據(jù)了全球各大媒體的頭條位置。
除了這些人工智能生成視頻外，法新社的事實核查團隊還標(biāo)記了多條與馬杜羅倒臺相關(guān)的誤導(dǎo)性內(nèi)容，其中包括將智利民眾的慶祝畫面?zhèn)卧斐晌瘍?nèi)瑞拉場景的視頻片段。
重大新聞事件期間滋生虛假信息并非新鮮事。此前在巴以沖突和俄烏沖突期間，也曾出現(xiàn)過類似的不實或誤導(dǎo)性內(nèi)容。
然而，此次與委內(nèi)瑞拉近期局勢相關(guān)的人工智能生成內(nèi)容，憑借其廣泛的傳播范圍和高度的逼真度，成為人工智能技術(shù)日益淪為虛假信息傳播工具的鮮明例證。
像蘇蕊和米德爾旅程這類人工智能內(nèi)容生成平臺的出現(xiàn)，使得人們能夠更便捷地快速制作超寫實視頻，并在突發(fā)新聞引發(fā)的信息混亂中冒充真實內(nèi)容傳播。這類內(nèi)容的制作者往往意在放大特定政治敘事，或是在全球受眾中制造認知混亂。
去年，一段由人工智能生成的視頻也曾在網(wǎng)絡(luò)上瘋傳，視頻中幾名女性控訴政府停擺期間自己失去了補充營養(yǎng)援助計劃（即 “糧票計劃”）的福利補貼。該視頻甚至騙過了?？怂剐侣勵l道，后者曾將其當(dāng)作真實事件撰寫報道，相關(guān)文章后來才被刪除。
鑒于此類趨勢愈演愈烈，社交媒體公司正面臨越來越大的壓力，外界要求它們加大力度，為具有潛在誤導(dǎo)性的人工智能生成內(nèi)容添加明確標(biāo)簽。
去年，印度政府提出一項法案，要求對人工智能生成內(nèi)容強制標(biāo)注；西班牙則出臺法規(guī)，對未標(biāo)注的人工智能生成內(nèi)容最高可處以 3500 萬歐元的罰款。
為回應(yīng)日益增長的擔(dān)憂，抖音、元宇宙平臺等主流社交媒體均已推出人工智能內(nèi)容檢測與標(biāo)注工具，但實際效果參差不齊。
美國消費者新聞與商業(yè)頻道（CNBC）發(fā)現(xiàn)，抖音平臺上部分被當(dāng)作委內(nèi)瑞拉歡慶場面?zhèn)鞑サ囊曨l，已經(jīng)被標(biāo)注為人工智能生成內(nèi)容。
而 “X” 平臺在內(nèi)容標(biāo)注方面，主要依賴 “社區(qū)備注” 功能。批評人士指出，這一機制往往反應(yīng)遲緩，難以阻止人工智能虛假信息在被識別前大面積擴散。
負責(zé)監(jiān)管照片墻和 “思瑞德” 平臺的亞當(dāng)?莫塞里，在最近的一則帖子中坦承了社交媒體行業(yè)面臨的這一挑戰(zhàn)。他表示：“所有主流平臺都會在識別人工智能生成內(nèi)容方面付出努力，但隨著人工智能技術(shù)愈發(fā)擅長模仿現(xiàn)實，平臺的識別能力反而會逐漸下降?！?/p>
他還補充道：“如今，越來越多的人和我一樣認為，相比給虛假內(nèi)容做標(biāo)記，為真實內(nèi)容設(shè)置數(shù)字水印將是更可行的方案?！?/p>