格隆匯2月8日|春節臨近,合成短視頻在各大社交平臺出現,AI技術也正在以一種前所未有的娛樂化姿態介入我們的傳統節日。專家表示,現在正規的大型AI服務平臺和一些專業的視頻合成工具,已經開始嘗試加入一些防止濫用的機制。比如強制添加AI生成標識或者水印,讓觀眾一眼就能分辨出這是合成內容。還有在用戶協議中明確禁止未授權使用他人的形象和聲音。部分平臺還在后臺建立了內容檢測和過濾機制,利用AI自身來識別疑似深度合成的視頻。但真實情況是,現在仍然有很多工具沒有足夠的防護機制,特別是一些開源模型或者小型應用,可能根本沒有添加標識或者監管的限制,這就給濫用留下了空間。












