隨著生成式人工智能技術(shù)的普及,利用AI“換臉”、“擬聲”等手段仿冒公眾人物進(jìn)行違規(guī)營銷的現(xiàn)象愈演愈烈。為維護(hù)清朗的網(wǎng)絡(luò)空間,微信平臺(tái)近日針對(duì)此類違規(guī)行為展開了專項(xiàng)治理行動(dòng),嚴(yán)厲打擊利用AI技術(shù)侵犯公眾人物權(quán)益的亂象。
AI造假成引流工具,平臺(tái)多維打擊顯效
近期,微信平臺(tái)監(jiān)測(cè)發(fā)現(xiàn),部分違規(guī)賬號(hào)利用AI技術(shù)合成名人的形象與聲音,制作虛假內(nèi)容用于違規(guī)引流或虛假宣傳。這種行為不僅嚴(yán)重侵犯了名人的肖像權(quán)與名譽(yù)權(quán),更通過誤導(dǎo)性信息擾亂了正常的網(wǎng)絡(luò)秩序,不僅讓用戶難辨真?zhèn)危裣铝似墼p隱患。
面對(duì)這一新型技術(shù)濫用挑戰(zhàn),微信平臺(tái)構(gòu)建了“用戶舉報(bào)+日常巡查+技術(shù)識(shí)別”的綜合治理體系。截至目前,平臺(tái)已累計(jì)處置AI仿冒名人的違規(guī)內(nèi)容1.3萬余條,并對(duì)1200余個(gè)相關(guān)違規(guī)賬號(hào)進(jìn)行了嚴(yán)厲處罰。其中,針對(duì)部分情節(jié)嚴(yán)重、利用仿冒身份實(shí)施違規(guī)引流的賬號(hào),平臺(tái)依法實(shí)施了永久封禁處理,有力震懾了違規(guī)者。
升級(jí)治理能力,呼吁用戶理性辨別
針對(duì)AI生成內(nèi)容日益逼真、識(shí)別難度加大的現(xiàn)狀,微信平臺(tái)表示將持續(xù)加碼技術(shù)投入,不斷提升對(duì)AI生成內(nèi)容的識(shí)別精準(zhǔn)度與治理效率。未來,平臺(tái)將對(duì)利用AI仿冒他人身份進(jìn)行營銷、欺詐等各類違規(guī)行為始終保持“零容忍”的高壓打擊態(tài)勢(shì)。
與此同時(shí),平臺(tái)方面也向廣大用戶發(fā)出提醒:在瀏覽網(wǎng)絡(luò)信息時(shí)應(yīng)保持理性,增強(qiáng)對(duì)AI合成內(nèi)容的辨別能力,不輕信、不傳播涉嫌違規(guī)的虛假信息。一旦發(fā)現(xiàn)利用AI仿冒名人的線索,用戶可通過微信內(nèi)置的投訴渠道進(jìn)行反饋,共同維護(hù)健康的平臺(tái)生態(tài)。









