《法治日報》記者 辛紅 《法人》見習(xí)記者 姚瑤

許多人在使用AI工具時發(fā)現(xiàn)，當(dāng)自己向人工智能提問時，會得到一個邏輯清晰、細(xì)節(jié)豐富的答案，然而仔細(xì)查詢時才發(fā)現(xiàn)，它回答的內(nèi)容全部子虛烏有。

2025年年底，杭州互聯(lián)網(wǎng)法院一審審結(jié)了全國首例因生成式人工智能模型“幻覺”引發(fā)的侵權(quán)糾紛案。該案的審判直面AI技術(shù)應(yīng)用前沿帶來的法律挑戰(zhàn)，對AI生成內(nèi)容的性質(zhì)、服務(wù)提供者的責(zé)任邊界以及侵權(quán)構(gòu)成要件等核心問題進(jìn)行了深入闡釋，為類似糾紛處理提供了重要的裁判指引。

AI生成是服務(wù)還是產(chǎn)品

案情顯示，梁某使用某生成式人工智能應(yīng)用程序，詢問某高校報考的相關(guān)信息時，AI生成了該高校主校區(qū)的不準(zhǔn)確信息。梁某在對話中進(jìn)行糾正，但AI仍回復(fù)稱“該高校確實存在這一校區(qū)”，還提出若有誤將向用戶提供10萬元賠償。直到梁某提供該高校招生信息后，AI才認(rèn)可其生成了不準(zhǔn)確信息。

制圖/宋逗

這段看似尋常的對話糾紛，卻將一個全新的法律命題推到臺前：當(dāng)AI生成的不準(zhǔn)確信息誤導(dǎo)他人時，是否構(gòu)成侵權(quán)？法律應(yīng)當(dāng)如何劃分人與機(jī)器的責(zé)任邊界？

北京市康達(dá)律師事務(wù)所高級合伙人茍博程對記者表示，在法律定性上，AI“幻覺”是生成式人工智能正常運作的內(nèi)生現(xiàn)象，屬于“技術(shù)固有局限”，但它不等同于法律意義上的傳統(tǒng)“虛假信息”。

“不要以為AI產(chǎn)生了‘幻覺’是因為它邏輯錯誤或者故障了。恰恰相反，生成式AI的工作原理是基于海量數(shù)據(jù)進(jìn)行概率預(yù)測，然后像人類一樣組詞造句。”茍博程說，“當(dāng)它遇到知識盲區(qū)或數(shù)據(jù)偏差時，就會‘自信滿滿’地編造內(nèi)容。這在技術(shù)上被稱為‘魯棒性不足’，是其系統(tǒng)正常運行邏輯的必然副產(chǎn)品?！?/p>

原告梁某認(rèn)為，某生成式人工智能應(yīng)用生成不準(zhǔn)確信息對其構(gòu)成誤導(dǎo)，使其遭受侵害，并承諾對其進(jìn)行賠償，遂起訴要求某科技公司賠償損失9999元。但被告某科技公司辯稱：對話內(nèi)容由人工智能模型生成，已充分履行了注意義務(wù)，無過錯；原告未產(chǎn)生實際損失，不構(gòu)成侵權(quán)。

法院審理認(rèn)為，生成式人工智能服務(wù)依據(jù)《生成式人工智能服務(wù)管理暫行辦法》屬于“服務(wù)”范疇，而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”。本案應(yīng)適用《中華人民共和國民法典》（以下簡稱“民法典”）第一千一百六十五條第一款的一般過錯責(zé)任原則，而非產(chǎn)品責(zé)任的無過錯責(zé)任原則。本案主要基于四點考量：第一，從概念與構(gòu)成要件上，該服務(wù)缺乏具體、特定的用途與合理可行的質(zhì)檢標(biāo)準(zhǔn)；第二，其生成的信息內(nèi)容本身通常不具備民法典侵權(quán)責(zé)任編所指的高度危險性，通常情況下不宜對信息內(nèi)容本身采用無過錯責(zé)任原則；第三，生成式人工智能服務(wù)提供者缺乏對生成信息內(nèi)容足夠的預(yù)見和控制能力，對生成信息內(nèi)容不宜適用產(chǎn)品責(zé)任；第四，從政策導(dǎo)向看，適用無過錯責(zé)任原則可能會不當(dāng)加重服務(wù)提供者的責(zé)任，限制人工智能產(chǎn)業(yè)的發(fā)展。

茍博程表示，法律對傳統(tǒng)“虛假信息”（如謠言、誹謗）的定義，通常包含行為人主觀上的“惡意”或“明知故犯”。而對于AI來說，它沒有主觀意識，更沒有道德感。因此，法院將其界定為“服務(wù)范疇”下的技術(shù)局限性?！斑@就意味著，我們不能簡單粗暴地把AI的一句胡話直接等同于平臺在故意造假。”

杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄認(rèn)為，在當(dāng)下的人工智能時代，模型通過在含有數(shù)萬億詞元（Tokens）的龐大語料庫上訓(xùn)練，學(xué)習(xí)了復(fù)雜的語言統(tǒng)計模式和詞匯共現(xiàn)規(guī)律，但并未真正學(xué)習(xí)“事實”，因此難免產(chǎn)生“幻覺”。對生成式人工智能服務(wù)侵權(quán)采取過錯責(zé)任原則能夠全面評價服務(wù)提供者的行為，有利于構(gòu)建兼具彈性、適應(yīng)性與演化能力的回應(yīng)型規(guī)則治理體系，既設(shè)立紅線、底線，嚴(yán)格禁止生成各類“有毒”、有害、違法信息，又激勵生成式人工智能服務(wù)提供者采取合理措施進(jìn)行技術(shù)創(chuàng)新，防止風(fēng)險發(fā)生。

AI“賠償承諾”不算數(shù)

該案中，AI回復(fù)的那句“若生成內(nèi)容有誤，賠償10萬元”的承諾，究竟算不算數(shù)？杭州互聯(lián)網(wǎng)法院給出了明確的回答：不算數(shù)。

“AI在法律上‘人’都算不上，它只是一行由人編寫的代碼，連簽合同的資格都沒有?！逼埐┏瘫硎?，AI不是民事主體，根據(jù)我國民法典，能獨立作出“意思表示”（也就是能許下承諾、承擔(dān)責(zé)任）的主體，只有自然人、法人和非法人組織。AI既不是生物人，也不是法人，它沒有任何民事權(quán)利能力和行為能力?！八拖褚惠v自動駕駛汽車，你不能指望汽車自己下車去跟交警道歉?！?/p>

本案中，科技公司并沒有把AI設(shè)定為自己的“代理人”或“發(fā)言人”，反而在用戶協(xié)議里明明白白地說明：這只是個輔助工具，不代表我的真實意思?！凹热黄脚_沒有授權(quán)AI許諾賠償，那么AI開出的這張10萬元‘支票’，本質(zhì)上就是一串毫無約束力的亂碼?！逼埐┏陶f。

法院審理認(rèn)為，本案原告主張受到的侵害是因信息不準(zhǔn)確，致其受誤導(dǎo)錯失報考機(jī)會，額外產(chǎn)生信息核實成本、維權(quán)成本等，即純粹經(jīng)濟(jì)利益被侵害，而非人格權(quán)、物權(quán)等絕對權(quán)被侵害。因此，不能僅依據(jù)權(quán)益本身被侵害而認(rèn)定行為的非法性或不法性，而須從被告是否違反注意義務(wù)進(jìn)行判定。

中國國際經(jīng)濟(jì)貿(mào)易仲裁委員會仲裁員王風(fēng)和向記者表示，本案原告敗訴的核心原因在于，由于AI造成侵權(quán)的法律責(zé)任難以完成舉證，證據(jù)鏈上難以滿足侵權(quán)的構(gòu)成要件。主要體現(xiàn)在以下兩個層面：

第一個層面，是原告主張的損害本身較難證明。所謂“錯失報考機(jī)會”，本質(zhì)上屬于一種機(jī)會性利益損失。這類損害在民事侵權(quán)案件中一直屬于舉證難度較大的類型，因為它往往帶有較強(qiáng)的假設(shè)性和不確定性。法院通常會追問：即便沒有這條錯誤信息，原告是否一定會作出不同選擇？是否一定能夠把握住所謂的“機(jī)會”？這個“機(jī)會”究竟具有多大現(xiàn)實利益？這些問題都很難通過直接證據(jù)加以證明。

第二個層面，是侵權(quán)責(zé)任成立所要求的因果關(guān)系和過錯要件，在本案中都不容易充分建立。司法實踐中，不能因為AI回答錯了，就當(dāng)然推理出“平臺一定要承擔(dān)侵權(quán)責(zé)任”。原告還需要證明“平臺存在可歸責(zé)的過錯，且該過錯與自己的實際損害之間具有法律上的相當(dāng)因果關(guān)系”。本案中，原告在這一點的證明力度顯然不足。

那么，如果該案原告主張的損害不是“錯失報考機(jī)會”這類較難證明的損失，而是更直接的經(jīng)濟(jì)損失，比如，根據(jù)錯誤信息作出了消費決策，判決結(jié)果是否可能不同？

王風(fēng)和表示，如果原告主張的不是抽象的機(jī)會損失，而是更直接、更現(xiàn)實、可量化的經(jīng)濟(jì)損失，比如，基于AI給出錯誤票務(wù)信息、商品信息、服務(wù)規(guī)則，用戶作出了消費決策，并因此支付了費用或者遭受了實際財產(chǎn)損失，那么原告的證據(jù)鏈就會更完整。此時，“錯誤信息——產(chǎn)生信賴——作出決策——遭受損失”這一邏輯鏈條就顯得非常重要，并且更容易被法院認(rèn)定?！癆I侵權(quán)的案件走向能否改變，關(guān)鍵不在于損失金額大小，而在于損害是否直接、真實、可量化、可歸責(zé)。如果這些要素能夠被清晰證明，平臺承擔(dān)相應(yīng)責(zé)任的確定性自然會上升?！?/p>

平臺須盡到“注意義務(wù)”

最終，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回原告梁某的訴訟請求。法院認(rèn)定被告已盡到合理注意義務(wù)，主觀上不存在過錯。AI的“承諾”不構(gòu)成平臺的意思表達(dá)，且開發(fā)者已采用可行的技術(shù)手段力求降低錯誤，并提醒告知了風(fēng)險。對此，茍博程分析，法律對AI平臺的要求是“盡職免責(zé)”，只要做到了以下三道防線，平臺就盡到了義務(wù)；反之，就要承擔(dān)責(zé)任：

一是嚴(yán)防死守的“紅線義務(wù)”：對于黃賭毒、反動、暴力等法律明令禁止的“有毒”、有害、違法信息，平臺必須擁有極其嚴(yán)格的過濾機(jī)制。一旦這類內(nèi)容顯露出來，平臺直接被判定有過錯；二是醒目提示的“避坑義務(wù)”：平臺必須在App歡迎頁、用戶協(xié)議、對話框角落等顯眼位置，提示用戶“AI信息可能不準(zhǔn)確，產(chǎn)生的內(nèi)容僅供娛樂/參考”；三是技術(shù)升級的“及格線義務(wù)”：可以犯錯，但要努力少犯錯。平臺需要采取行業(yè)內(nèi)通行的技術(shù)手段（比如現(xiàn)在流行的“檢索增強(qiáng)生成RAG技術(shù)”，即讓AI先查資料再說話）來提高準(zhǔn)確率。如果平臺明明有能減少“幻覺”的技術(shù)卻不采用，那么平臺的不作為就是過錯。

目前，很多生成式AI應(yīng)用都會標(biāo)注“內(nèi)容僅供參考，請仔細(xì)甄別”之類的免責(zé)聲明，這類聲明在法律上能起到多大程度的免責(zé)效果？是否存在不能免責(zé)的情形？

王風(fēng)和表示，這類免責(zé)聲明在法律上具有一定意義，但也絕非“萬能免責(zé)條款”?！懊庳?zé)聲明”首先是風(fēng)險提示，其次才是法律責(zé)任考量，“免責(zé)條款”不是一張當(dāng)然免責(zé)的通行證。因為生成式AI本身就具有概率生成、可能失真的技術(shù)屬性。平臺通過“內(nèi)容僅供參考”“請注意甄別”等提示語，實際上是在提醒用戶：AI輸出并不當(dāng)然等同于客觀事實，也不當(dāng)然構(gòu)成專業(yè)意見。在這個意義上，這類聲明是有法律意義的，它有助于降低用戶形成過度信賴，也可能在一定程度上減輕平臺的責(zé)任。但問題在于，免責(zé)聲明的效力是有限的，也是有邊界的。這類聲明在法律上的作用，更接近于幫助法院劃定用戶合理信賴邊界，而不是幫助平臺徹底擺脫責(zé)任。它可以減輕責(zé)任，但通常不能取代平臺本應(yīng)承擔(dān)的注意義務(wù)。

“從科技趨勢看，AI‘幻覺’問題一定會隨著技術(shù)迭代不斷改善，但要說根本消除，我認(rèn)為相當(dāng)長時期內(nèi)仍將持續(xù)存在?！蓖躏L(fēng)和表示，隨著大模型能力提升、檢索增強(qiáng)技術(shù)發(fā)展、權(quán)威知識庫接入、事實核驗機(jī)制完善，以及垂直領(lǐng)域模型不斷成熟，AI輸出的準(zhǔn)確率和穩(wěn)定性肯定會比現(xiàn)在更高?！皬姆珊椭卫斫嵌瓤?，我們不應(yīng)該把希望完全寄托在技術(shù)自我修復(fù)上，而應(yīng)建立在AI仍可能出錯的現(xiàn)實前提之上。通過制度設(shè)計把風(fēng)險控制在合理可接受范圍內(nèi)，用一切皆為合理的眼光看待技術(shù)的迭代和發(fā)展中的問題?！?/p>