抖音平臺近期對利用AI技術(shù)生成的色情低俗內(nèi)容展開專項整治行動，通過技術(shù)攔截與人工巡查相結(jié)合的方式，對違規(guī)賬號和內(nèi)容進行全面清理。據(jù)平臺公布的數(shù)據(jù)顯示，今年以來已累計處置4.2萬條違規(guī)內(nèi)容，對1.4萬個賬號實施階梯式處罰，包括限制推薦、禁言直至永久封禁。

在整治過程中，平臺發(fā)現(xiàn)部分不法分子通過AI工具批量生成低俗擦邊內(nèi)容，并采用隱蔽手段進行色情導流。某黑產(chǎn)團伙利用深度合成技術(shù)制作虛假人設，發(fā)布帶有性暗示的短視頻，誘導用戶跳轉(zhuǎn)至第三方平臺下載非法應用。該團伙4名成員已被公安機關(guān)依法刑事拘留，案件正在進一步偵辦中。

針對直播場景的違規(guī)行為，平臺重點打擊了利用AI生成圖片設置直播間封面的導流手段。經(jīng)核查，339個賬號通過展示虛擬美女形象吸引觀眾點擊主頁，進而為色情網(wǎng)站引流。這些賬號已被永久收回直播權(quán)限，相關(guān)違規(guī)內(nèi)容全部下架處理。

數(shù)據(jù)顯示，另有8421個賬號因持續(xù)發(fā)布AI生成的暴露擦邊內(nèi)容受到處罰。平臺通過圖像識別技術(shù)，對穿著暴露、動作曖昧的虛擬形象進行精準打擊，同時清理了大量含有性暗示的文案內(nèi)容。所有受罰賬號均被要求刪除違規(guī)內(nèi)容，并根據(jù)情節(jié)嚴重程度采取不同時長的賬號限制措施。

抖音安全中心負責人表示，此類行為不僅違反平臺社區(qū)規(guī)范，更涉嫌觸犯《刑法》第二百八十七條之一的非法利用信息網(wǎng)絡罪和第三百六十四條的傳播淫穢物品罪。平臺已建立違法線索移送機制，定期將查實的案件信息上報公安機關(guān)，配合開展刑事打擊。

為應對AI技術(shù)帶來的新型治理挑戰(zhàn)，平臺正在持續(xù)優(yōu)化內(nèi)容審核模型。通過升級深度學習算法，系統(tǒng)可自動識別AI生成的虛擬人物特征，并對異常導流模式建立預警機制。技術(shù)團隊還與高校科研機構(gòu)合作，研發(fā)針對深度偽造內(nèi)容的檢測工具，提升對復雜違規(guī)場景的處置效率。