3月10日,抖音黑板報(bào)今日發(fā)布公告。
抖音表示,為切實(shí)維護(hù)健康網(wǎng)絡(luò)環(huán)境,保障廣大網(wǎng)民的合法權(quán)益,抖音嚴(yán)厲打擊各類色情低俗內(nèi)容,持續(xù)從嚴(yán)治理利用AI技術(shù)生成的相關(guān)違規(guī)內(nèi)容。近期平臺(tái)發(fā)現(xiàn)部分違規(guī)用戶通過 AI 生成“單親媽媽曖昧互動(dòng)”“美女魅惑舞蹈”“著裝暴露的海濱度假照”等低俗擦邊內(nèi)容,違反《抖音社區(qū)自律公約》平臺(tái)規(guī)則,平臺(tái)堅(jiān)持從嚴(yán)從重處置。
今年以來,針對(duì)AI生成色情低俗類違規(guī),已處置4.2萬條內(nèi)容,對(duì)1.4萬個(gè)賬號(hào)處以限制推薦、禁言、封禁等不同梯度的處罰。
利用色情低俗信息為色情網(wǎng)站導(dǎo)流、售賣淫穢色情物品等行為,違反《中華人民共和國(guó)刑法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等相關(guān)法律法規(guī),涉嫌非法利用信息網(wǎng)絡(luò)罪、傳播淫穢物品罪。對(duì)以上違法行為抖音將主動(dòng)上報(bào)公安機(jī)關(guān)。
典型案例1:利用AI生成圖片塑造“單親媽媽陪讀”人設(shè)進(jìn)行色情導(dǎo)流,黑產(chǎn)團(tuán)伙4人被刑拘
平臺(tái)巡查發(fā)現(xiàn),一批賬號(hào)利用AI生成“單親媽媽陪讀”人設(shè)的內(nèi)容,通過發(fā)布性感擦邊視頻并配以性暗示文案,誘導(dǎo)用戶關(guān)注。平臺(tái)經(jīng)深度研判與線索挖掘,發(fā)現(xiàn)背后疑似有黑產(chǎn)團(tuán)伙操控,該團(tuán)伙通過賬號(hào)簽名、群聊等方式,誘導(dǎo)用戶跳轉(zhuǎn)至第三方平臺(tái)下載色情低俗 App。平臺(tái)立即清理違規(guī)內(nèi)容、無限期封禁相關(guān)賬號(hào),并收集線索上報(bào)至公安機(jī)關(guān)。最終,該黑產(chǎn)團(tuán)伙4人被依法刑事拘留。
典型案例2:利用AI生成美女圖片引導(dǎo)用戶至收藏頁(yè)進(jìn)行色情導(dǎo)流,339個(gè)賬號(hào)被處置











