近日，抖音平臺針對利用 AI 技術生成色情低俗內容的違規行為展開了專項治理。今年以來平臺已累計處置違規內容 4.2 萬條，并對 1.4 萬個賬號采取了包括禁言、封禁在內的梯次處罰，有力打擊了網絡黑產。
此次治理重點指向利用 AI 塑造虛假人設、發布性暗示視頻進行導流的黑產團伙。據了解，部分違規者利用 AI 生成的美女圖片作為直播間封面或主頁收藏，誘導用戶跳轉至第三方色情應用。目前，已有 339 個相關賬號被無限期回收直播權限，某涉案 4 人團伙因涉嫌非法利用信息網絡罪被依法刑事拘留。
抖音強調，利用 AI 生成著裝暴露的“擦邊”內容已觸犯平臺公約及相關法律。目前，平臺已將8421 個持續發布此類內容的賬號封禁或降權，并將相關違法線索移交公安機關。
未來，抖音將持續升級技術手段，提升對 AI 生成不良內容的識別與攔截能力。平臺提醒用戶，應共同抵制低俗內容，維護清朗的網絡空間。
