2026年3月18日，今日頭條平臺治理媒體開放日現(xiàn)場，一組數(shù)據(jù)引發(fā)了與會者的廣泛關(guān)注：全年推送風(fēng)險提醒300余萬條，處置網(wǎng)絡(luò)暴力相關(guān)違規(guī)評論3.6億條，清理虛假內(nèi)容700余萬條。這串?dāng)?shù)字背后，是一個深耕內(nèi)容領(lǐng)域13年的平臺，面對技術(shù)迭代、生態(tài)變遷時的治理答卷。
今日頭條當(dāng)日發(fā)布的《2025年度平臺治理白皮書》，聚焦網(wǎng)絡(luò)詐騙、低質(zhì)AI內(nèi)容、虛假謠言、網(wǎng)絡(luò)暴力等八大關(guān)鍵領(lǐng)域，系統(tǒng)呈現(xiàn)了平臺一年來在安全治理與內(nèi)容生態(tài)建設(shè)方面的實踐與成效。
從數(shù)據(jù)維度看，今日頭條2025年的治理工作呈現(xiàn)出明顯的"技術(shù)+運營"雙輪驅(qū)動特征。在網(wǎng)絡(luò)詐騙治理上，平臺構(gòu)建了包含注冊登錄識別、行為特征識別、內(nèi)容識別、團伙打擊在內(nèi)的四維全鏈路體系，累計處置涉詐內(nèi)容135萬條，封禁涉詐賬號18萬個，對高危私信發(fā)送風(fēng)險提醒300余萬次。
這一系列舉措的背后，是詐騙手段持續(xù)升級的現(xiàn)實挑戰(zhàn)——兼職詐騙占比43.67%，金融投資詐騙占比29.84%，交友詐騙占比19.43%，三類內(nèi)容構(gòu)成了平臺詐騙內(nèi)容的主體。
中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長李懷勝在現(xiàn)場表示，當(dāng)前的網(wǎng)絡(luò)詐騙已不再是孤立個案，而是形成了上游技術(shù)支撐、中游內(nèi)容引流、下游洗錢變現(xiàn)的完整犯罪生態(tài)系統(tǒng)，治理必須從單點打擊走向系統(tǒng)治理。
中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長李懷勝反詐治理進入全鏈路時代
當(dāng)一位用戶在今日頭條私信對話中看到"該對話可能涉及交易轉(zhuǎn)賬、個人隱私等敏感信息，謹(jǐn)防詐騙，遵守國家法律法規(guī)"的提示時，這背后是今日頭條安全團隊構(gòu)建的復(fù)雜風(fēng)控體系在發(fā)揮作用。
今日頭條安全運營負(fù)責(zé)人閆夢茹介紹，平臺基于設(shè)備參數(shù)、用戶行為統(tǒng)計和賬號異常等300余項特征訓(xùn)練風(fēng)險識別模型，通過欺詐文本、私信、多模態(tài)模型識別財經(jīng)薦股、兼職誘導(dǎo)、交友詐騙等風(fēng)險，輔以文本庫匹配進行OCR/ACR回掃。更重要的是，當(dāng)詐騙風(fēng)險從個體行為演變?yōu)閳F伙作案時，平臺通過內(nèi)容和行為相似度識別詐騙團伙，實施階梯式處罰。
今日頭條安全運營負(fù)責(zé)人閆夢茹這種技術(shù)能力在實戰(zhàn)中得到了驗證。2025年，今日頭條通過全鏈路識別體系，不僅完成了對涉詐內(nèi)容的快速處置，更重要的是在用戶端建立了風(fēng)險預(yù)警機制。當(dāng)平臺監(jiān)測到潛在詐騙風(fēng)險時，會通過私信提醒方式警示用戶，這種前置干預(yù)有效降低了用戶財產(chǎn)損失風(fēng)險。與此同時，平臺創(chuàng)新治理傳播方式，用動畫短片、條漫、真人演繹短劇等更接地氣的形式，把復(fù)雜的詐騙套路講清楚，讓用戶能夠理解什么是騙局，做好警示和提醒的作用。每個治理周期，平臺都會向社會和監(jiān)管部門反饋反詐的進展和典型手段，提升用戶的防范意識。
值得關(guān)注的是，公眾參與在反詐治理中的價值日益凸顯。
李懷勝在分享中提到了兩組值得深思的數(shù)據(jù)：一是平臺通過私信對高危風(fēng)險進行了300余萬條提醒，二是部分用戶對反詐提示存在抵觸情緒。這兩組數(shù)據(jù)說明，沒有公眾的主動參與，再嚴(yán)密的技術(shù)防線、再完善的法律制度都可能被突破。
從法律層面看，《反電信網(wǎng)絡(luò)詐騙法》第八條明確規(guī)定，各級人民政府和有關(guān)部門應(yīng)當(dāng)加強反電信網(wǎng)絡(luò)詐騙宣傳，普及相關(guān)法律和知識，提高公眾對各類電信網(wǎng)絡(luò)詐騙方式的防騙意識和識騙能力；教育行政等部門應(yīng)當(dāng)結(jié)合受害群體分布特征，加強對老年人、青少年等群體的宣傳教育，開展反詐宣傳教育進學(xué)校、進企業(yè)、進社區(qū)、進農(nóng)村、進家庭等活動。平臺通過寓教于樂的方式提高用戶的識別能力，正是這一法律要求的具體落地。
技術(shù)浪潮下的內(nèi)容生態(tài)治理
2025年，AIGC技術(shù)的快速發(fā)展給內(nèi)容生態(tài)帶來了雙重影響：一方面，AI技術(shù)為內(nèi)容創(chuàng)作提供了極大便利；另一方面，低質(zhì)AI內(nèi)容、虛假謠言的批量傳播也嚴(yán)重威脅平臺生態(tài)健康。
今日頭條內(nèi)容治理運營負(fù)責(zé)人鄭子龍表示，平臺以"守護真實"為核心，通過技術(shù)與規(guī)則雙重手段，堅決守護用戶對平臺的信任感，維護生態(tài)的質(zhì)量底線。在內(nèi)容層面，平臺通過敏捷監(jiān)控聚類發(fā)文和用戶負(fù)評等方式不斷挖掘新的低質(zhì)AI內(nèi)容特征，持續(xù)迭代管控標(biāo)準(zhǔn)，并反哺模型訓(xùn)練，增強對于低質(zhì)AI問題的識別與處置能力；在賬號層面，對于持續(xù)發(fā)布低質(zhì)AI內(nèi)容的作者施加流量打壓甚至禁言處罰，同時通過發(fā)布治理公告及對作者的透傳教育，引導(dǎo)創(chuàng)作者自覺抵制低質(zhì)AI內(nèi)容。
今日頭條內(nèi)容治理運營負(fù)責(zé)人鄭子龍這一套治理體系在2025年取得了顯著成效。平臺累計處置低質(zhì)AIGC內(nèi)容超過260萬條，不僅有效遏制了低質(zhì)AI內(nèi)容的泛濫趨勢，更嚴(yán)格落實了相關(guān)合規(guī)要求。在低質(zhì)AI內(nèi)容治理上，今日頭條面臨的挑戰(zhàn)是如何平衡技術(shù)創(chuàng)新與內(nèi)容質(zhì)量。
中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春認(rèn)為，低質(zhì)AI內(nèi)容治理需明確標(biāo)準(zhǔn)、技術(shù)賦能、多方協(xié)同。平臺應(yīng)完善AI內(nèi)容標(biāo)識與審核機制，強化技術(shù)檢測與創(chuàng)作者引導(dǎo)，推動形成監(jiān)管、平臺、用戶共治格局，從源頭遏制虛假誤導(dǎo)內(nèi)容蔓延。今日頭條的實踐正是這一理念的體現(xiàn)——平臺增補AI內(nèi)容標(biāo)準(zhǔn)，提高AI畫面識別能力，對AI內(nèi)容進行打標(biāo)，每月通過AI模型識別用戶發(fā)布AI內(nèi)容并打標(biāo)4000萬條以上，覆蓋無主動聲明場景，AI判定綜合準(zhǔn)確率超過95%。
與此同時，今日頭條構(gòu)建了全鏈路謠言治理體系。通過謠言知識庫對國內(nèi)外的虛假信息及突發(fā)熱點進行查證與總結(jié)，系統(tǒng)會自動提取內(nèi)容中的關(guān)鍵事件信息與權(quán)威信源及知識庫進行比對，實時監(jiān)測官方及媒體的辟謠動態(tài)，快速、多維度地發(fā)現(xiàn)內(nèi)容的虛假風(fēng)險。完成判定后，平臺會在1小時內(nèi)完成對全平臺存量謠言的回掃清理，并同步上線攔截策略，阻斷變體內(nèi)容的二次傳播。
2025年，平臺清理虛假內(nèi)容700余萬條，對3.3萬個違規(guī)賬號進行了禁言或封禁處理。這一速度背后，是平臺結(jié)合大模型，上線AI虛構(gòu)圖片、聯(lián)網(wǎng)查證等識別鏈路，增強平臺對視覺虛假以及信源難查證問題的識別能力；同時在當(dāng)熱點來臨時，通過熱點預(yù)警、虛假線索挖掘及多種前置攔截機制，控制新熱點下的虛假內(nèi)容濃度持續(xù)保持低水平。
從治理成效看，今日頭條2025年的實踐揭示了平臺治理的深層邏輯變化——從被動應(yīng)對到主動防控，從單點打擊到系統(tǒng)治理，從技術(shù)驅(qū)動到"法律+技術(shù)+社會"協(xié)同發(fā)力。平臺全年處置網(wǎng)暴相關(guān)違規(guī)評論3.6億條，為70萬賬號啟用了一鍵防網(wǎng)暴功能，封禁網(wǎng)絡(luò)水軍團伙賬號13.9萬個，清退2萬多低質(zhì)認(rèn)證作者，處置60多萬投機賬號。
這些數(shù)字背后，是平臺在筑牢內(nèi)容治理防線的同時，投入更多資源扶持優(yōu)質(zhì)深度內(nèi)容。2025年平臺優(yōu)質(zhì)深度圖文閱讀量較去年增長近三倍，近200名專家學(xué)者、以及前一線媒體人入駐，獲專屬扶持后閱讀量與收益穩(wěn)步增長。
這一系列的治理行動，正是今日頭條作為通用信息分發(fā)與創(chuàng)作平臺，構(gòu)建健康、多元、優(yōu)質(zhì)的內(nèi)容生態(tài)，持續(xù)提升用戶體驗的核心使命所在。