上海兩會期間，人工智能技術的創新應用與規范治理成為代表委員們討論的重要議題。市人大代表、上海合合信息科技股份有限公司董事會秘書劉忱提出，生成式人工智能技術在電商領域催生的新型違法活動，亟需通過監管、技術和行業協同治理加以遏制，以保護中小經營者的合法權益，優化數字經濟發展環境。

隨著生成式人工智能技術的普及，其帶來的風險問題逐漸顯現。劉忱指出，部分不法分子利用AI工具批量生成逼真的“商品破損”“貨物瑕疵”等虛假圖片，通過電商平臺“僅退款”規則的漏洞，實施惡意索賠。這種行為具有零成本、規模化和難以識別的特點，已成為侵害中小商家權益的突出問題。

此類AI惡意應用對電商生態造成多方面危害。商家不僅面臨直接經濟損失，還需承擔高昂的維權成本。由于AI偽造的證據難以辨別，商家舉證困難，平臺維權流程復雜，時間和經濟負擔沉重。同時，電商平臺在追求商業利益的過程中，對網絡安全的投入仍顯不足。這種行為破壞了市場公平交易秩序，侵蝕了信用體系，對營商環境產生負面影響。

針對這些問題，劉忱建議首先加強監管協同與效能。他提出，由市場監管部門牽頭，聯合網信、公安、商務等部門及電商行業協會，開展針對AI造假索賠的專項整治行動，重點排查高風險商品類別和高頻索賠賬號。同時，支持上海本地監管技術創新，推廣AI生成內容識別、商品溯源等技術工具，對平臺審核流程進行常態化監督，督促其履行審核責任。對于商家，可設立維權綠色通道，簡化AI造假索賠案件的舉證流程，建立“快速立案、優先調處”機制，降低維權成本。

技術手段是治理AI問題的重要支撐。劉忱建議，電商平臺應部署和升級AI造假識別技術，通過算法比對商品原始信息與退款證據的一致性，攔截偽造內容，并對高頻索賠賬號實施重點監控。應推動建立跨平臺協同治理機制，促進電商平臺共享欺詐案例數據和惡意賬號黑名單，實現聯合管控。

為進一步保障商家權益，劉忱還呼吁推廣數字水印技術。他建議引導商家在商品打包、發貨過程中全程錄像存證，為維權提供可靠證據。這些措施將有助于構建可信的數字交易生態，維護電商市場的健康發展。