上海兩會(huì)期間，人工智能技術(shù)的創(chuàng)新應(yīng)用與規(guī)范治理成為代表委員討論的重要議題。市人大代表、上海合合信息科技股份有限公司董事會(huì)秘書(shū)劉忱提出，生成式人工智能技術(shù)在電商領(lǐng)域催生的新型違法活動(dòng)，已成為侵害中小商家權(quán)益的突出問(wèn)題，亟需通過(guò)多方協(xié)同治理構(gòu)建健康數(shù)字生態(tài)。

隨著生成式人工智能技術(shù)門(mén)檻降低，部分不法分子利用AI工具批量生成虛假商品圖片，通過(guò)偽造"商品破損""貨物瑕疵"等證據(jù)，利用電商平臺(tái)"僅退款"規(guī)則實(shí)施惡意索賠。這種新型"黑灰產(chǎn)"具有零成本、批量化、難辨別等特點(diǎn)，已形成完整的產(chǎn)業(yè)鏈條，對(duì)電商市場(chǎng)秩序造成嚴(yán)重沖擊。

據(jù)劉忱分析，AI惡意應(yīng)用帶來(lái)的危害呈現(xiàn)多維度特征：商家不僅面臨直接經(jīng)濟(jì)損失，還需承擔(dān)高昂的維權(quán)成本；部分電商平臺(tái)在網(wǎng)絡(luò)安全投入方面存在短板，審核機(jī)制難以應(yīng)對(duì)技術(shù)性造假；更嚴(yán)重的是，這種行為破壞了市場(chǎng)信用體系，動(dòng)搖了公平交易的基礎(chǔ)，對(duì)營(yíng)商環(huán)境造成負(fù)面影響。數(shù)據(jù)顯示，某電商平臺(tái)去年因AI偽造證據(jù)導(dǎo)致的異常退款案件同比增長(zhǎng)超過(guò)300%。

針對(duì)治理難題，劉忱建議構(gòu)建"監(jiān)管-技術(shù)-行業(yè)"三位一體的治理體系。在監(jiān)管層面，主張由市場(chǎng)監(jiān)管部門(mén)牽頭，聯(lián)合網(wǎng)信、公安等部門(mén)及行業(yè)協(xié)會(huì)開(kāi)展專(zhuān)項(xiàng)整治，重點(diǎn)排查3C數(shù)碼、美妝等高風(fēng)險(xiǎn)品類(lèi)，建立高頻索賠賬號(hào)數(shù)據(jù)庫(kù)。同時(shí)推動(dòng)監(jiān)管技術(shù)創(chuàng)新，要求平臺(tái)部署AI生成內(nèi)容檢測(cè)系統(tǒng)，對(duì)審核流程實(shí)施常態(tài)化監(jiān)督，并開(kāi)設(shè)商家維權(quán)綠色通道，簡(jiǎn)化舉證程序。

技術(shù)治理方面，他提出電商平臺(tái)應(yīng)升級(jí)智能風(fēng)控系統(tǒng)，通過(guò)算法比對(duì)商品原始信息與退款證據(jù)，建立高頻索賠賬號(hào)預(yù)警機(jī)制。建議引入數(shù)字水印技術(shù)，要求商家對(duì)關(guān)鍵環(huán)節(jié)錄像存證，形成完整的證據(jù)鏈。某頭部平臺(tái)試點(diǎn)顯示，應(yīng)用AI識(shí)別技術(shù)后，異常退款攔截率提升45%。

行業(yè)協(xié)同治理同樣關(guān)鍵。劉忱呼吁建立跨平臺(tái)信息共享機(jī)制，推動(dòng)欺詐案例數(shù)據(jù)與惡意賬號(hào)黑名單互通，實(shí)現(xiàn)聯(lián)合管控。建議行業(yè)協(xié)會(huì)制定AI應(yīng)用倫理規(guī)范，引導(dǎo)企業(yè)建立技術(shù)自律機(jī)制。目前已有部分平臺(tái)開(kāi)始共享風(fēng)險(xiǎn)賬號(hào)信息，形成初步的協(xié)同防御網(wǎng)絡(luò)。