4月22日，抖音發布《2025第一季度黑產治理數據報告》。據公開數據顯示，自2025年以來，抖音持續加強對黑色產業鏈的打擊，隨著AI能力在治理場景的深度利用，平臺在黑產違規場景的巡檢、預警、研判等環節的效率都獲得了大幅提升。

今年第一季度，抖音封禁水軍、欺詐和違規導流相關黑產賬號260萬個，并將涉嫌違法犯罪的線索上報有關部門。

搭建AI智能體，網絡水軍巡檢效率提升10倍

今年以來，抖音風險治理團隊在大模型基礎上，以“AI能力”為核心，構建覆蓋風險感知、智能決策、閉環處置的治理體系，系統性提升AI在復雜場景下的風險治理應用，單個案例的處理時間達秒級，各環節運行綜合準確率達到85%以上。

以網絡水軍治理為例，雖然在長時間的治理中平臺已經有了一套流程并完成了部分內容自動化運行，但日常的研判、回掃等工作仍以人工處置為主。隨著大模型的發展，工作人員借用AI能力搭建出不同的智能機器人工具，在風險發現、風險預警、線上巡檢、風險研判、風險回掃等多個環節實現線上自動運營。尤其在“刷量”的識別和處置上，人工智能極大提高了處置鏈路的效率，不僅能3分鐘內完成自動研判，且準確率高達95%以上。

在今年第一季度的試運行中，平臺網絡水軍服務違規的巡檢效率提升了10.25倍，日均攔截違規請求6000萬次，封禁水軍賬號超20萬個。

加強欺詐安全提醒，每日發送反詐短信超80萬條

本季度，仿冒抖音客服的詐騙套路仍在升級、變化。

抖音持續在多個產品頁面強化反詐提醒，并升級“驗證助手”工具，用戶可輸入電話、短信、網址等驗證相關信息是否來自抖音官方，并查看官方客服與自己的聯系記錄，日均保護此類詐騙潛在受害人5萬名。同時，用戶也可直接撥打95152進行核實。

此外，虛假人設和交易導流詐騙，也是今年以來黑產團伙重點開展的詐騙手段。詐騙分子用虛假人設以交友、賺錢等噱頭，或以私下交易為由，將用戶引導至其他平臺，誘導其下載第三方軟件實施詐騙。因詐騙行為大多發生在非公共流域，并涉及多個平臺，平臺的治理難度也隨之增加。

抖音反詐中心工作人員提醒，請勿輕信陌生人邀請您去第三方平臺“交友”“賺錢”的信息，私聊請注意保護財產安全，不要留下電話等隱私信息，如遇上述違規行為可第一時間向平臺舉報。

今年一季度，抖音進一步完善了仿冒、購物、刷單、交友等多個場景的安全模型，重點解決小眾聊天場景下詐騙問題，并結合海外IP、異常關注、頻繁催更等行為進行識別并防范易受騙人群被高危用戶欺詐。針對殺豬盤、色情導流交易等高危場景，加大短信、電話外呼等用戶提醒功能。

2025年至今，抖音共封禁欺詐相關賬號140萬個，每日下發提醒短信超80萬條，撥打反詐預警電話近17萬次。

建立多賬號鏈路識別體系，阻斷違規外鏈導流風險

今年以來，違規導流手段呈現出多鏈路特點。不同于單賬號作弊，平臺只需識別到違規內容，即可精準對賬號做出處罰；多鏈路手段下，黑產團伙在投稿、評論、用戶資料、彈幕等場景利用多個賬號配合操作，平臺需把鏈路上的每一個賬號、每一個違規導流信息都進行定位、分析、整理，才能保證處罰合理合規并減少遺漏。僅靠人工，很難回溯出完整的黑產鏈條。

為了解決此類難題，抖音平臺搭建了多個賬號長鏈路的風險識別體系，從事前、事中、事后等多個環節切斷黑產賬號之間聯系并將違規賬號統一處置，同時結合大模型對于內容理解的優勢，自動梳理黑產鏈路的每個環節并識別出關鍵證據進行保存。在AI技術的深度運用下，一季度站內相關違規的舉報量下降了73.3%，平臺封禁導流違規賬號近100萬個，處置違規視頻內容745萬條，并將線索上報相關部門，配合打擊違規導流團伙。