杭州互聯(lián)網(wǎng)法院近日審結(jié)全國(guó)首例因生成式人工智能“幻覺”引發(fā)的侵權(quán)糾紛案，為人工智能服務(wù)責(zé)任認(rèn)定提供了重要司法參考。該案聚焦AI生成不準(zhǔn)確信息導(dǎo)致用戶權(quán)益受損時(shí)的責(zé)任劃分問題，法院通過深入分析AI技術(shù)特性、服務(wù)提供者義務(wù)及侵權(quán)構(gòu)成要件，明確了生成式人工智能服務(wù)的法律邊界。

案件起因于某科技公司運(yùn)營(yíng)的生成式AI應(yīng)用在回答用戶關(guān)于高校報(bào)考信息時(shí)，持續(xù)輸出錯(cuò)誤內(nèi)容并承諾賠償。2025年6月，用戶梁某在使用該應(yīng)用查詢某高校校區(qū)信息時(shí)，AI多次提供不實(shí)信息，甚至在用戶糾正后仍堅(jiān)持錯(cuò)誤答復(fù)，并聲稱若內(nèi)容有誤將賠償10萬元。當(dāng)梁某提供官網(wǎng)信息證明AI錯(cuò)誤后，該應(yīng)用竟建議其通過法律途徑索賠。梁某遂以受到誤導(dǎo)為由，起訴要求科技公司賠償9999元。

法院審理重點(diǎn)圍繞三個(gè)核心問題展開：AI生成的承諾是否具有法律效力、侵權(quán)責(zé)任應(yīng)適用何種歸責(zé)原則、服務(wù)提供者是否構(gòu)成侵權(quán)。針對(duì)AI意思表示問題，法院明確指出，人工智能不具備民事主體資格，其生成的承諾不能視為服務(wù)提供者的真實(shí)意思表示。判決強(qiáng)調(diào)，AI缺乏法律人格，無法獨(dú)立承擔(dān)權(quán)利義務(wù)，且被告公司未通過任何形式授權(quán)AI代表其作出承諾，用戶對(duì)隨機(jī)生成的賠償內(nèi)容不應(yīng)產(chǎn)生合理信賴。

在歸責(zé)原則認(rèn)定上，法院突破傳統(tǒng)產(chǎn)品責(zé)任框架，確立生成式AI服務(wù)適用過錯(cuò)責(zé)任原則。判決認(rèn)為，AI服務(wù)屬于信息處理范疇，與具有物理形態(tài)的產(chǎn)品存在本質(zhì)區(qū)別。其生成內(nèi)容不具有高度危險(xiǎn)性，且服務(wù)提供者難以完全預(yù)見和控制所有輸出結(jié)果。若采用無過錯(cuò)責(zé)任原則，將過度加重企業(yè)負(fù)擔(dān)，阻礙技術(shù)創(chuàng)新。法院特別指出，現(xiàn)行法律未將AI服務(wù)納入產(chǎn)品范疇，相關(guān)管理暫行辦法也明確其服務(wù)屬性，為過錯(cuò)責(zé)任原則的適用提供了法律依據(jù)。

關(guān)于服務(wù)提供者是否侵權(quán)，法院構(gòu)建了動(dòng)態(tài)注意義務(wù)審查體系。首先，服務(wù)提供者對(duì)違法信息負(fù)有嚴(yán)格審查義務(wù)，必須確保不生成“有毒”有害內(nèi)容；其次，需以顯著方式提示AI生成內(nèi)容的局限性，包括功能局限告知、警示提醒等；最后，應(yīng)采取行業(yè)通行技術(shù)措施提高內(nèi)容準(zhǔn)確性，如檢索增強(qiáng)生成技術(shù)。經(jīng)審查，被告公司已在應(yīng)用界面顯著位置提示AI功能局限，并采用多項(xiàng)技術(shù)提升輸出可靠性，已盡到合理注意義務(wù)。同時(shí)，原告未能證明實(shí)際損害發(fā)生，且AI錯(cuò)誤信息未實(shí)質(zhì)影響其報(bào)考決策，法院最終駁回訴訟請(qǐng)求。

該案主審法官肖芄表示，判決體現(xiàn)了發(fā)展與安全并重的司法理念。在人工智能技術(shù)快速發(fā)展階段，既需要嚴(yán)格禁止違法信息生成，設(shè)立行為紅線，也要避免過度苛責(zé)企業(yè)，為技術(shù)創(chuàng)新保留空間。通過過錯(cuò)責(zé)任原則的適用，可以動(dòng)態(tài)調(diào)整服務(wù)提供者的注意義務(wù)標(biāo)準(zhǔn)，形成適應(yīng)技術(shù)發(fā)展的規(guī)則體系。法官特別提醒公眾，當(dāng)前AI技術(shù)仍存在“幻覺”問題，其生成內(nèi)容僅可作為參考，重要決策需多方驗(yàn)證。

清華大學(xué)法學(xué)院教授程嘯評(píng)價(jià)稱，該判決具有重要理論和實(shí)踐價(jià)值。其明確了AI不具備民事主體資格的基本立場(chǎng)，厘清了服務(wù)與產(chǎn)品的法律界限，為同類案件審理提供了規(guī)范指引。判決提出的動(dòng)態(tài)注意義務(wù)標(biāo)準(zhǔn)，既考慮了技術(shù)發(fā)展現(xiàn)實(shí)，也平衡了權(quán)益保護(hù)需求，展現(xiàn)了司法對(duì)新興技術(shù)的審慎包容態(tài)度。專家指出，隨著AI技術(shù)廣泛應(yīng)用，此類糾紛將不斷增多，該案確立的裁判規(guī)則將為行業(yè)健康發(fā)展提供有力法治保障。