小紅書平臺近日發(fā)布重要公告，要求用戶對使用人工智能技術(shù)生成或合成的內(nèi)容進(jìn)行主動標(biāo)注。這一舉措旨在維護(hù)社區(qū)內(nèi)容真實(shí)性和用戶權(quán)益，應(yīng)對近期頻發(fā)的AI偽造內(nèi)容事件。

根據(jù)最新實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識辦法》，平臺將升級技術(shù)管控措施。除要求創(chuàng)作者在發(fā)布環(huán)節(jié)自行標(biāo)注外，系統(tǒng)將通過算法模型自動識別未標(biāo)注內(nèi)容，并強(qiáng)制添加"AI生成"標(biāo)識。對于多次未履行標(biāo)注義務(wù)的賬號，平臺將采取限制內(nèi)容推薦、降低曝光權(quán)重等處罰措施。

平臺安全團(tuán)隊(duì)透露，目前技術(shù)檢測已覆蓋圖文、視頻等多種形式，重點(diǎn)篩查人臉替換、語音合成等典型應(yīng)用場景。用戶若發(fā)現(xiàn)疑似AI偽造內(nèi)容，可通過專屬通道進(jìn)行舉報(bào)，經(jīng)核實(shí)后將對違規(guī)賬號作出嚴(yán)肅處理。此次規(guī)范措施涉及所有通過算法生成或修改的數(shù)字內(nèi)容，包括但不限于深度偽造、自動寫作等類型。