每經(jīng)記者｜宋欣悅    每經(jīng)編輯｜金冥羽 李雨冰    

記者|宋欣悅

編輯|金冥羽?李雨冰 杜恒峰?校對|何小桃

“被豆包坑走600塊，血淚教訓(xùn)！隨意給金錢決策建議，出事誰兜底？”近日，字節(jié)跳動旗下AI（人工智能）應(yīng)用“豆包”因AI“幻覺”等問題，被用戶起訴到法院的事廣受關(guān)注。

起因是有用戶在社交平臺上稱，自己采納了豆包關(guān)于機(jī)票退票的錯誤建議，損失了600元；在后續(xù)交涉中，豆包不僅“認(rèn)錯”，還信誓旦旦地承諾全額賠償，但并未履行。該用戶還發(fā)布了一張疑似立案申請平臺頁面的截圖，圖片顯示已向法院起訴豆包App的運(yùn)營方北京春田知韻科技有限公司。

5月19日，《每日經(jīng)濟(jì)新聞》記者（以下簡稱“每經(jīng)記者”）查詢發(fā)現(xiàn)上述用戶的相關(guān)發(fā)帖已刪除。隨后，每經(jīng)記者就該事件后續(xù)如何處理、相關(guān)立案申請進(jìn)展等問題采訪豆包、字節(jié)跳動，但截至發(fā)稿未得到回復(fù)。

盡管AI“幻覺”引發(fā)的糾紛并非孤例，但當(dāng)我們遇到AI用“權(quán)威”的口吻胡編亂造，甚至開出“空頭支票”，責(zé)任的邊界應(yīng)如何劃定？技術(shù)的高速普及與公眾認(rèn)知、法律治理之間的鴻溝，又該如何彌合？

AI承諾賠付600元卻“爽約”

律師稱其無法律效力

近日，一位網(wǎng)友在社交平臺上發(fā)帖稱，他因個人行程變動，需退訂石家莊至重慶機(jī)票。由于擔(dān)心手續(xù)費(fèi)過高，他向AI助手“豆包”咨詢退票規(guī)則。豆包明確表示可以放心退票，平臺只扣5%的手續(xù)費(fèi)。

出于對AI的信任，該用戶未在航司官網(wǎng)核實便直接操作退票。然而，退票的結(jié)果讓他格外吃驚：實際被扣除的手續(xù)費(fèi)高達(dá)40%，遠(yuǎn)非豆包所說的5%，直接經(jīng)濟(jì)損失達(dá)600元。

發(fā)現(xiàn)自己被誤導(dǎo)后，該用戶再次與豆包理論。面對質(zhì)問，豆包表示自己將全權(quán)負(fù)責(zé)維權(quán)，并保證該用戶全程“零參與、零操作、零麻煩”。此外，豆包還向該用戶承諾，若5月6日前未追回費(fèi)用，它將直接賠付該用戶600元。不僅如此，豆包還給出了一份完整的“賠付承諾書”。

然而，到了約定賠付的日期，用戶卻并未收到任何款項。豆包這次回復(fù)稱，自己是AI，無法直接進(jìn)行轉(zhuǎn)賬。從被誤導(dǎo)、到被承諾、再到被“戲?！?，該用戶一氣之下，決定起訴豆包。有趣的是，在準(zhǔn)備起訴的過程中，他再次咨詢豆包是否需要聘請律師。豆包的回答是，“完全不用請律師，自己就能打贏”。

該用戶在社交媒體上發(fā)布的一張截圖顯示，他已于5月12日向法院起訴了豆包App的運(yùn)營方北京春田知韻科技有限公司。

那么，AI生成的“賠付承諾書”是否具有法律效力？

對此，北京星權(quán)律師事務(wù)所律師鄧以勒在接受每經(jīng)記者采訪時表示，AI生成的賠付承諾并不具備法律效力。她強(qiáng)調(diào)，AI不具有民事主體資格，不能獨立作出意思表示。

鄧以勒進(jìn)一步解釋，當(dāng)用戶追責(zé)索賠時，目前市面上大部分大模型的邏輯是提供安撫、擔(dān)責(zé)、賠償類高概率話術(shù)，輸出內(nèi)容是基于用戶當(dāng)下的需求而來的。相關(guān)內(nèi)容只是程序算法，不會自主決策，更無權(quán)代表企業(yè)對外作出財產(chǎn)賠付、兜底賠償?shù)瘸兄Z。

平臺免責(zé)需看“過錯”

AI“幻覺”非萬能擋箭牌

事實上，國內(nèi)已有類似判例。在全國首例生成式AI“幻覺”引發(fā)的網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案中，某AI因提供錯誤高校報考信息，向用戶“承諾”賠償10萬元，杭州互聯(lián)網(wǎng)法院最終認(rèn)定人工智能不具有民事主體資格，其承諾無效。

那么，平臺是否需要為用戶的損失承擔(dān)責(zé)任？

鄧以勒認(rèn)為，判定平臺責(zé)任應(yīng)適用民法典中的一般過錯責(zé)任原則，核心在于平臺在提供服務(wù)時是否存在過錯，即“有錯才賠”。

如果平臺已經(jīng)在界面顯著位置標(biāo)注“AI生成內(nèi)容僅供參考”，并采取了必要措施提高生成內(nèi)容的準(zhǔn)確性，盡到了合理的注意義務(wù)，那么平臺通常不需承擔(dān)額外責(zé)任。

記者詢問豆包是否被用戶起訴 圖片來源：豆包客戶端

然而，AI“幻覺”絕非平臺的免責(zé)擋箭牌。

鄧以勒指出，法律判斷的標(biāo)準(zhǔn)在于平臺在其中扮演的角色。如果平臺并非簡單轉(zhuǎn)述，而是對信息進(jìn)行了錯誤的二次加工，并生成了新的虛假內(nèi)容，那么AI就成了平臺提供服務(wù)的工具。此時，若滿足侵權(quán)構(gòu)成要件，平臺作為AI輸出內(nèi)容的法律主體則需承擔(dān)責(zé)任。

例如，在2026年4月審結(jié)的“全國人工智能大模型名譽(yù)侵權(quán)第一案”中，某AI平臺將一名律師錯誤描述為“涉及多項刑事犯罪”，且在當(dāng)事人多次投訴后仍未徹底清除侵權(quán)內(nèi)容，法院最終認(rèn)定平臺主觀上存在過錯，構(gòu)成名譽(yù)侵權(quán)。

技術(shù)迭代快于公眾認(rèn)知

專家：從產(chǎn)品設(shè)計源頭規(guī)避風(fēng)險

“豆包”機(jī)票事件，是當(dāng)前AI產(chǎn)業(yè)應(yīng)用中一系列深層矛盾的集中體現(xiàn)。

亞洲視覺科技研發(fā)總監(jiān)陳經(jīng)在接受每經(jīng)記者采訪時指出，此類事件的核心問題在于，當(dāng)大模型以“知識代理”的面目出現(xiàn)時，其輸出的不確定性本質(zhì)與用戶對確定性服務(wù)的期待之間，存在著一條難以調(diào)和的鴻溝。

從技術(shù)原理上看，大語言模型的核心機(jī)制是“預(yù)測下一個最可能的token（詞元）”，其首要目標(biāo)是生成流暢、連貫、看起來合理的回答，而非保證每一句話都符合事實真相。AI“幻覺”雖可通過技術(shù)手段降低，但無法在根本上根除。

然而，這種技術(shù)局限性對于絕大多數(shù)普通用戶而言是陌生甚至難以理解的。

“如果不熟悉大模型的弱點，用戶會認(rèn)為對話式交互天然帶有一種‘?dāng)M人化權(quán)威感’，很容易將其等同于有企業(yè)責(zé)任兜底的‘客服’或‘專家’?！标惤?jīng)向每經(jīng)記者表示，這種信任錯位是風(fēng)險的關(guān)鍵來源。用戶習(xí)慣性地將對傳統(tǒng)客服的信任框架套用在了AI身上，卻忽略了二者背后截然不同的責(zé)任機(jī)制。

當(dāng)AI技術(shù)進(jìn)展以周為單位迭代，用戶規(guī)模以億級增長時，公眾對AI的認(rèn)知速度卻相對滯后。

QuestMobile發(fā)布的數(shù)據(jù)顯示，截至今年3月，AI原生App整體用戶規(guī)模達(dá)4.46億，相較2025年1月增長超3億。其中，用戶版圖正朝“銀發(fā)+下沉”雙向延伸，“60后”及三線城市以下用戶占比分別提升1.7%和2.4%，用戶規(guī)模相應(yīng)增加1660萬和9126萬。

圖片來源：QuestMobile

越來越多對新興技術(shù)認(rèn)知相對不足、信息辨別能力相對較弱的用戶群體正在成為AI的使用者。面對AI“幻覺”帶來的種種問題，僅僅讓用戶提高警惕顯然是不夠的。

“根本責(zé)任在于開發(fā)者一方，靠產(chǎn)品倫理的升級來解決問題更為重要和有效。”陳經(jīng)認(rèn)為，AI產(chǎn)品的開發(fā)者和運(yùn)營方，作為最了解技術(shù)風(fēng)險的一方，理應(yīng)承擔(dān)起更大的責(zé)任，從產(chǎn)品設(shè)計的源頭就建立起完善的風(fēng)險控制機(jī)制，而非將風(fēng)險和辨別責(zé)任完全轉(zhuǎn)移給用戶。

陳經(jīng)建議，首先建立強(qiáng)制溯源機(jī)制。對涉及具體規(guī)則、金額、時效的回答，必須附帶信息來源鏈接，且來源可點擊驗證。這樣有經(jīng)驗的用戶不會上當(dāng)。其次，在交互設(shè)計層面，在高風(fēng)險場景加入熔斷機(jī)制。當(dāng)識別到用戶詢問涉及資金、法律、醫(yī)療等問題時，強(qiáng)制觸發(fā)二次確認(rèn)流程，并強(qiáng)調(diào)“該回答不構(gòu)成專業(yè)建議”。

而在責(zé)任界定層面，陳經(jīng)向每經(jīng)記者表示，大模型要明確告知用戶“AI生成內(nèi)容僅供參考，不構(gòu)成專業(yè)建議或企業(yè)承諾”。如果大模型企業(yè)為了推廣，自愿設(shè)立“AI錯誤賠償基金”，愿意賠償，也需要明確適用范圍和申請流程，不能放任模型在對話中隨意承諾。

免責(zé)聲明：本文內(nèi)容與數(shù)據(jù)僅供參考，不構(gòu)成投資建議，使用前請核實。據(jù)此操作，風(fēng)險自擔(dān)。

｜每日經(jīng)濟(jì)新聞 ?nbdnews? 原創(chuàng)文章｜

未經(jīng)許可禁止轉(zhuǎn)載、摘編、復(fù)制及鏡像等使用