小紅書近日發(fā)布新規(guī)，要求用戶對站內發(fā)布的AI生成內容進行明確標注。此次調整源于平臺近期收到多起用戶舉報，反映部分賬號利用人工智能技術仿冒公眾人物形象、制作虛假視頻，甚至惡意改編經(jīng)典作品傳播不良價值觀。這些未經(jīng)授權的內容不僅侵害當事人權益，更因缺乏標識導致信息真實性存疑，嚴重損害社區(qū)信任環(huán)境。

根據(jù)國家《人工智能生成合成內容標識辦法》相關要求，平臺將升級技術識別系統(tǒng)，強化對AI生成內容的檢測能力。若創(chuàng)作者未在發(fā)布時主動勾選"AI生成"選項，系統(tǒng)將自動識別并添加標識，同時對未聲明內容實施流量限制措施。這一機制旨在保障用戶知情權，避免AI內容與真實信息混淆。

針對惡意使用AI技術的行為，平臺明確劃出三條紅線：一是嚴厲打擊制作虛假仿冒信息、傳播不良導向內容；二是禁止對經(jīng)典作品進行歪曲改編；三是嚴懲發(fā)布"去標識教程"等助長造假的行為。相關違規(guī)賬號將面臨內容下架、賬號限流直至封禁等處罰。目前技術團隊正在優(yōu)化檢測模型，重點提升對深度偽造內容的識別精度。

此次規(guī)則更新是平臺內容治理的重要舉措。除技術手段外，小紅書同步完善用戶舉報機制，開通AI內容專項投訴通道。后續(xù)將持續(xù)迭代檢測算法，建立跨平臺內容比對系統(tǒng)，從源頭遏制AI技術濫用現(xiàn)象，維護健康有序的網(wǎng)絡空間。