上海兩會(huì)期間,人工智能技術(shù)的創(chuàng)新應(yīng)用與規(guī)范治理成為代表委員討論的重要議題。市人大代表、上海合合信息科技股份有限公司董事會(huì)秘書(shū)劉忱提出,生成式人工智能技術(shù)在電商領(lǐng)域催生的新型違法活動(dòng),已成為侵害中小商家權(quán)益的突出問(wèn)題,亟需通過(guò)多方協(xié)同治理構(gòu)建健康數(shù)字生態(tài)。
隨著生成式人工智能技術(shù)門(mén)檻降低,部分不法分子利用AI工具批量生成虛假商品圖片,通過(guò)偽造"商品破損""貨物瑕疵"等證據(jù),利用電商平臺(tái)"僅退款"規(guī)則實(shí)施惡意索賠。這種新型"黑灰產(chǎn)"具有零成本、批量化、難辨別等特點(diǎn),已形成完整的產(chǎn)業(yè)鏈條,對(duì)電商市場(chǎng)秩序造成嚴(yán)重沖擊。
據(jù)劉忱分析,AI惡意應(yīng)用帶來(lái)的危害呈現(xiàn)多維度特征:商家不僅面臨直接經(jīng)濟(jì)損失,還需承擔(dān)高昂的維權(quán)成本;部分電商平臺(tái)在網(wǎng)絡(luò)安全投入方面存在短板,審核機(jī)制難以應(yīng)對(duì)技術(shù)性造假;更嚴(yán)重的是,這種行為破壞了市場(chǎng)信用體系,動(dòng)搖了公平交易的基礎(chǔ),對(duì)營(yíng)商環(huán)境造成負(fù)面影響。數(shù)據(jù)顯示,某電商平臺(tái)去年因AI偽造證據(jù)導(dǎo)致的異常退款案件同比增長(zhǎng)超過(guò)300%。
針對(duì)治理難題,劉忱建議構(gòu)建"監(jiān)管-技術(shù)-行業(yè)"三位一體的治理體系。在監(jiān)管層面,主張由市場(chǎng)監(jiān)管部門(mén)牽頭,聯(lián)合網(wǎng)信、公安等部門(mén)及行業(yè)協(xié)會(huì)開(kāi)展專(zhuān)項(xiàng)整治,重點(diǎn)排查3C數(shù)碼、美妝等高風(fēng)險(xiǎn)品類(lèi),建立高頻索賠賬號(hào)數(shù)據(jù)庫(kù)。同時(shí)推動(dòng)監(jiān)管技術(shù)創(chuàng)新,要求平臺(tái)部署AI生成內(nèi)容檢測(cè)系統(tǒng),對(duì)審核流程實(shí)施常態(tài)化監(jiān)督,并開(kāi)設(shè)商家維權(quán)綠色通道,簡(jiǎn)化舉證程序。
技術(shù)治理方面,他提出電商平臺(tái)應(yīng)升級(jí)智能風(fēng)控系統(tǒng),通過(guò)算法比對(duì)商品原始信息與退款證據(jù),建立高頻索賠賬號(hào)預(yù)警機(jī)制。建議引入數(shù)字水印技術(shù),要求商家對(duì)關(guān)鍵環(huán)節(jié)錄像存證,形成完整的證據(jù)鏈。某頭部平臺(tái)試點(diǎn)顯示,應(yīng)用AI識(shí)別技術(shù)后,異常退款攔截率提升45%。
行業(yè)協(xié)同治理同樣關(guān)鍵。劉忱呼吁建立跨平臺(tái)信息共享機(jī)制,推動(dòng)欺詐案例數(shù)據(jù)與惡意賬號(hào)黑名單互通,實(shí)現(xiàn)聯(lián)合管控。建議行業(yè)協(xié)會(huì)制定AI應(yīng)用倫理規(guī)范,引導(dǎo)企業(yè)建立技術(shù)自律機(jī)制。目前已有部分平臺(tái)開(kāi)始共享風(fēng)險(xiǎn)賬號(hào)信息,形成初步的協(xié)同防御網(wǎng)絡(luò)。











