全國兩會期間，科技領域代表的提案備受關注。全國人大代表雷軍在會議中披露，自己長期遭受AI換臉換聲技術的惡意侵擾，相關經歷引發社會對AI黑產治理的深度討論。
據雷軍描述，2024年國慶期間，短視頻平臺突然涌現大量偽造其語音的惡搞視頻。這些內容包含低俗吐槽甚至辱罵性言論，制作逼真難以分辨。相關話題迅速登上熱搜榜，單日播放量突破億次，導致大量網友涌入其社交賬號質問。盡管雷軍此前對網絡玩梗保持包容態度，但此次事件中惡意內容的泛濫程度遠超預期，最終迫使其通過發布三個憤怒表情間接表達不滿。
更令其困擾的是維權困境。雷軍指出，當時國內尚未出臺針對AI深度偽造技術的專項法規，維權只能依賴肖像權、名譽權等傳統法律框架。由于技術偽造的特殊性，侵權損失難以量化評估，導致維權過程舉步維艱。這種狀況促使他連續兩年在兩會提交相關提案，呼吁建立AI技術使用規范，明確法律紅線并加重處罰力度。
除技術偽造問題外，網絡水軍的持續攻擊也給雷軍帶來沉重心理負擔。他在直播中坦言，長期遭受斷章取義的惡意抹黑，現已形成公開講話前的焦慮心理。為規避風險，其團隊不得不準備詳細發言稿，這種防御性姿態折射出公眾人物面臨的網絡暴力困境。
值得關注的是，經過監管部門與平臺的聯合治理，當前AI黑產亂象已呈現收斂態勢。但雷軍強調，現有措施仍不足以應對技術濫用風險。他特別指出，隨著AI技術向日常生活全面滲透，普通民眾遭遇偽造內容侵害的可能性正在指數級增長，建立系統性防護機制刻不容緩。
這場持續數年的維權斗爭，將科技倫理與法律規制的矛盾推至公眾視野。當AI技術既能創造價值又可能成為傷害工具時，如何平衡創新發展與權益保護，成為亟待解決的社會命題。
