小紅書平臺近日發布公告，針對站內AI生成合成內容管理提出新要求，呼吁用戶主動標識相關創作內容。此舉源于平臺近期收到多起用戶舉報，反映部分賬號利用AI技術仿冒公眾人物形象、制作虛假視頻，且未在發布時明確標注技術屬性。
根據公告內容，未經授權使用AI生成公眾人物形象的行為，不僅侵犯了個人合法權益，更因部分內容缺乏技術標識導致信息真實性存疑，對社區信任體系造成沖擊。平臺特別指出，部分創作者通過深度合成技術制造的虛假影像，已引發用戶對內容真實性的廣泛質疑。
依據《人工智能生成合成內容標識辦法》相關規定，小紅書將強化技術檢測手段，對未主動標識的AI生成內容進行自動識別。系統檢測到未聲明內容時，將自動添加技術標識并限制推薦流量。平臺明確表示，創作者需在發布環節自行勾選"AI生成"選項，否則將面臨內容分發受限的處置措施。
針對特定違規情形，平臺制定了更嚴厲的管控策略。包括但不限于：利用AI技術制造虛假仿冒信息、篡改經典作品內容、傳播不良價值觀，以及教授去除AI標識方法等行為，均被列入重點打擊范圍。技術團隊將持續優化AI內容識別模型，提升對深度偽造內容的鑒別能力。
此次規則調整標志著內容平臺對AI技術治理進入新階段。通過強化標識規范與檢測技術雙管齊下，小紅書試圖在鼓勵技術創新與維護內容真實性之間尋求平衡。業內人士指出，此舉或將推動整個社交媒體行業建立更完善的AI內容管理標準。
