隨著人工智能技術(shù)的突破性進(jìn)展,高仿真數(shù)字虛擬人正從科幻想象轉(zhuǎn)變?yōu)楝F(xiàn)實(shí)應(yīng)用,在娛樂、電商、教育、情感陪伴等領(lǐng)域快速滲透。然而,這一新興業(yè)態(tài)的野蠻生長也引發(fā)了多重社會風(fēng)險(xiǎn):深度偽造技術(shù)被用于詐騙、未經(jīng)授權(quán)“復(fù)活”逝者引發(fā)倫理爭議、算法誘導(dǎo)非理性消費(fèi)、數(shù)字勞工權(quán)益保障缺失等問題頻發(fā),不僅侵害公民合法權(quán)益,更對數(shù)字社會秩序構(gòu)成挑戰(zhàn)。針對這些亂象,國家互聯(lián)網(wǎng)信息辦公室近日發(fā)布《數(shù)字虛擬人信息服務(wù)管理辦法(征求意見稿)》,標(biāo)志著我國對這一前沿領(lǐng)域的治理正式進(jìn)入法治化軌道。
該辦法首次對數(shù)字虛擬人作出明確定義:指存在于非物理世界,通過圖形學(xué)、人工智能等技術(shù)模擬人類外貌、聲音、行為等特征的虛擬形象,涵蓋AI驅(qū)動(dòng)型與真人驅(qū)動(dòng)型兩類。這一界定將此前游離于法律邊緣的“數(shù)字分身”“虛擬偶像”等形態(tài)納入監(jiān)管范圍,為司法實(shí)踐提供了清晰標(biāo)準(zhǔn)。北京互聯(lián)網(wǎng)法院近年審理的多起深度偽造名人聲音帶貨、數(shù)字人平臺侵害人格權(quán)案件,正是這一監(jiān)管需求的現(xiàn)實(shí)寫照。
在人格權(quán)保護(hù)方面,辦法構(gòu)建了多層次防護(hù)體系:要求使用敏感個(gè)人信息進(jìn)行建模時(shí)必須取得自然人單獨(dú)同意,從源頭遏制“撞臉”“碰瓷”等侵權(quán)行為;明確禁止通過丑化、污損等方式侵害他人人格權(quán),將《民法典》中的人格權(quán)保護(hù)延伸至數(shù)字空間;針對“復(fù)活”逝者現(xiàn)象,規(guī)定必須尊重逝者生前意愿且不得侵害近親屬權(quán)益,平衡技術(shù)發(fā)展與倫理底線。對于虛擬人產(chǎn)業(yè)中的“數(shù)字勞工”問題,辦法特別強(qiáng)調(diào)保障真人驅(qū)動(dòng)者的個(gè)人信息自主權(quán)與擇業(yè)自由,防止技術(shù)異化導(dǎo)致的新型剝削。
針對數(shù)字虛擬人“以假亂真”的特性,辦法在內(nèi)容治理上采取“底線+高線”雙軌策略:嚴(yán)禁利用虛擬人生成傳播危害國家安全、違法犯罪、侵害權(quán)益或違背公序良俗的內(nèi)容;同時(shí)要求服務(wù)提供者弘揚(yáng)社會主義核心價(jià)值觀,營造健康網(wǎng)絡(luò)生態(tài)。考慮到虛擬人在擬人化互動(dòng)中的特殊影響,辦法特別規(guī)定不得誘導(dǎo)未成年人沉迷,不得提供危害其身心健康的服務(wù),為青少年筑起數(shù)字防護(hù)墻。
在責(zé)任分配方面,辦法突破傳統(tǒng)治理模式,構(gòu)建了覆蓋全鏈條的責(zé)任體系。隨著AI工具門檻降低,普通用戶正成為虛擬人的重要?jiǎng)?chuàng)造者,辦法因此明確規(guī)定:不僅服務(wù)提供者需承擔(dān)主體責(zé)任,任何組織或個(gè)人在開發(fā)、使用虛擬人時(shí)均須遵守相關(guān)規(guī)定。這種“責(zé)任共擔(dān)”機(jī)制推動(dòng)社會治理理念從“技術(shù)消費(fèi)”向“責(zé)任共建”轉(zhuǎn)變,為構(gòu)建多元共治的數(shù)字社會格局奠定基礎(chǔ)。
作為我國首個(gè)針對數(shù)字虛擬人的專項(xiàng)規(guī)范,該辦法既吸收了現(xiàn)有法律法規(guī)在安全治理、倫理規(guī)范方面的經(jīng)驗(yàn),又緊密結(jié)合虛擬人“高仿真”“強(qiáng)交互”的技術(shù)特性,以及技術(shù)普及帶來的主體多元化趨勢。通過回應(yīng)社會關(guān)切、解決核心痛點(diǎn)、構(gòu)建責(zé)任共同體三大著力點(diǎn),為產(chǎn)業(yè)健康發(fā)展提供了系統(tǒng)性規(guī)則框架。目前辦法正處于公開征求意見階段,其完善程度將直接影響我國在全球數(shù)字治理領(lǐng)域的規(guī)則制定話語權(quán)。











