近日,短視頻平臺快手針對網絡中泛濫的“AI魔改”內容展開專項整治行動,并發布第五期治理公告。平臺通過技術篩查與人工復核相結合的方式,重點打擊利用人工智能技術惡意篡改經典影視動畫作品的行為,僅2月份就累計清理違規視頻4096條,涉及低俗配音、血腥暴力改編及經典形象歪曲等突出問題。
此次整治行動聚焦兩大核心領域:一是嚴防不良內容對未成年人造成侵害,重點清理對經典動畫角色進行低俗化配音、添加恐怖暴力元素等違規改編;二是維護傳統文化作品尊嚴,針對《西游記》《三國演義》等名著中經典角色被惡意丑化、違規添加現代武器等破壞性創作,平臺已采取全面下架處理。相關負責人指出,此類內容不僅涉嫌侵犯原創版權,更通過扭曲經典、傳播低俗信息的方式沖擊社會道德底線。
為構建長效監管機制,快手持續升級技術防控體系,優化AI內容識別模型,提升對違規內容的精準識別能力。針對屢次違規或情節嚴重的賬號,平臺將根據違規程度實施階梯式處罰,包括內容限流、功能限制直至賬號封禁。數據顯示,2月份共有127個賬號因惡意創作“AI魔改”內容被永久封禁,3200余個賬號受到功能限制處罰。
平臺同步啟動用戶共治計劃,開通多渠道舉報入口,鼓勵用戶通過站內反饋或客服系統舉報違規內容。快手承諾對每條舉報線索進行48小時內響應,并定期公示處理結果。針對青少年用戶群體,平臺特別加強內容過濾機制,通過年齡識別技術自動屏蔽不適宜內容,為未成年人營造清朗網絡空間。
重點治理成果顯示:低俗配音類違規視頻占比達63%,暴力改編內容占28%,經典形象歪曲占9%;被下架作品中,涉及名著改編的占比超過四成。平臺表示將持續保持高壓態勢,通過技術迭代與人工巡查雙軌并行,堅決遏制AI技術被濫用于惡意內容創作的趨勢。











