非營利組織“科技透明度項(xiàng)目”近日發(fā)布研究報(bào)告指出，蘋果App Store與谷歌Play商店中存在多款基于人工智能技術(shù)的“脫衣”類應(yīng)用。這類應(yīng)用通過分析用戶上傳的普通照片，利用深度學(xué)習(xí)算法生成虛假裸露圖像，引發(fā)社交平臺(tái)用戶強(qiáng)烈譴責(zé)。相關(guān)話題在Reddit等社區(qū)迅速發(fā)酵，形成大規(guī)模討論。

研究人員通過關(guān)鍵詞檢索發(fā)現(xiàn)，部分應(yīng)用在商品描述中刻意使用模糊措辭規(guī)避審查，但實(shí)際功能聚焦于生成色情內(nèi)容。與常規(guī)圖片處理工具不同，這些應(yīng)用的核心算法專門針對(duì)人體特征進(jìn)行逆向建模，其輸出結(jié)果具有明顯性暗示。測試樣本顯示，即使輸入完全正常的生活照，系統(tǒng)仍能生成違背倫理的偽造圖像。

針對(duì)輿論壓力，蘋果公司向調(diào)查機(jī)構(gòu)確認(rèn)已下架9款違規(guī)應(yīng)用，并向相關(guān)開發(fā)者發(fā)送整改通知。谷歌方面則采取更嚴(yán)厲措施，不僅暫停涉事開發(fā)者賬戶，還對(duì)同類算法應(yīng)用啟動(dòng)專項(xiàng)審查。兩家平臺(tái)均表示將加強(qiáng)人工智能生成內(nèi)容的審核標(biāo)準(zhǔn)，但未公布具體技術(shù)檢測方案。

批評(píng)人士指出，科技巨頭的應(yīng)對(duì)存在明顯滯后性。監(jiān)測數(shù)據(jù)顯示，某款頭部應(yīng)用在被下架前累計(jì)下載量突破320萬次，通過內(nèi)購系統(tǒng)獲利超80萬美元。更令人擔(dān)憂的是，部分應(yīng)用采用訂閱制模式，用戶需支付周費(fèi)才能解鎖完整功能，這種商業(yè)模式加劇了不良內(nèi)容的傳播風(fēng)險(xiǎn)。有安全專家表示，現(xiàn)有應(yīng)用商店的機(jī)器審核系統(tǒng)難以識(shí)別此類深度偽造技術(shù)，人工復(fù)核又存在效率瓶頸，形成監(jiān)管灰色地帶。

法律界人士提醒，使用此類應(yīng)用可能涉及多重違法。在多數(shù)司法管轄區(qū)，未經(jīng)同意制作、傳播他人虛假色情圖像已構(gòu)成刑事犯罪，而應(yīng)用開發(fā)者則可能面臨侵犯隱私、傳播淫穢物品等指控。盡管部分平臺(tái)在用戶協(xié)議中明令禁止此類行為，但實(shí)際執(zhí)行過程中存在舉證難、追責(zé)慢等問題，導(dǎo)致違法成本顯著低于收益。