針對近期頻發(fā)的利用AI技術仿冒公眾人物、制作虛假視頻等違規(guī)現(xiàn)象，小紅書“薯管家”近日發(fā)布重要公告，明確要求站內(nèi)用戶對AI生成及合成內(nèi)容進行主動標識，并宣布將采取嚴厲措施治理相關亂象。

公告指出，平臺近期接到大量舉報，部分用戶利用AI技術偽造公眾人物形象與視頻。此類內(nèi)容不僅因缺乏授權而侵害了當事人的合法權益，更因未履行標識義務，混淆視聽，嚴重損害了社區(qū)用戶的信任感與平臺內(nèi)容的真實性。

為維護社區(qū)生態(tài)，小紅書表示將嚴格依據(jù)《人工智能生成合成內(nèi)容標識辦法》，全面升級平臺的識別檢測能力。新規(guī)確立了“主動標識為主，被動標識為輔”的監(jiān)管邏輯：若創(chuàng)作者在發(fā)布環(huán)節(jié)未如實標注AI生成內(nèi)容，平臺將自動通過檢測系統(tǒng)為其添加顯眼標識。

更具威懾力的是，對于此類未主動履行標識義務的AI合成內(nèi)容，平臺將直接采取限制分發(fā)的處罰措施，即通過降低推薦權重的方式，遏制虛假內(nèi)容的傳播范圍。這一舉措標志著小紅書在應對AI技術濫用、保障網(wǎng)絡信息真實性方面邁出了實質(zhì)性的一步。（Suky）