杭州互聯網法院近日就全國首例因生成式人工智能“幻覺”引發的侵權糾紛案作出一審判決，駁回原告全部訴求，認定涉案平臺不存在主觀過錯。這起案件因AI生成不實高校報考信息引發，再次引發公眾對人工智能技術邊界與法律責任的討論。
2025年6月，用戶梁某在使用某AI插件查詢高校信息時，收到關于某高校主校區地址的錯誤回復。盡管梁某多次指出信息有誤，該AI仍堅持原有內容，甚至以“賠償10萬元”的承諾誘導用戶通過法律途徑維權。梁某據此向研發公司索賠9999元，成為國內首例因AI幻覺現象進入司法程序的案件。
法院審理聚焦三大法律爭議點：首先，AI生成的“賠償承諾”不具備法律效力，因其無法代表平臺公司的真實意志；其次，鑒于生成式AI缺乏固定質檢標準且內容具有隨機性，平臺責任認定應適用一般過錯原則而非嚴格的產品責任；最后，被告平臺通過用戶協議顯著提示、歡迎頁面風險告知以及RAG檢索增強技術等措施，已履行合理注意義務。
該案判決首次明確了生成式AI服務提供者的責任邊界，為同類糾紛提供了司法參考。法律界人士指出，隨著AI技術廣泛應用，此類案件將考驗司法體系對新興技術的適配能力，既需保護用戶權益，也要避免過度加重平臺責任，阻礙技術創新發展。
