每經(jīng)編輯｜陳柯名    

大家有沒有這樣的經(jīng)歷，當你向人工智能模型提問的時候，有時會生成一些看似合理連貫，但實際上是錯誤捏造的內(nèi)容。這一現(xiàn)象也被稱為AI幻覺，說白了就是虛構事實，無中生有。但是這種AI幻覺生成的內(nèi)容，如果用到法庭上，它的后果可難以想象。北京市通州區(qū)人民法院的法官，在審理一起民事糾紛的案件時，就遇到了這樣的陷阱。

“AI幻覺”干擾司法秩序

這是一起由代持股引發(fā)的民事糾紛案件，由于原告的訴訟請求在司法審判中并不常見，因此法官鄭吉喆提出，原告律師可以在庭審后，提交補充代理意見。

北京市通州區(qū)人民法院法官 鄭吉喆：我們也是出于慎重，因為畢竟這個訴求不是一個很常見的訴求，我們當時也提到說你對這部分的訴訟請求，你們回去可以向法院提交書面的補充的意見以及相應的這種案例，這樣的話供法院裁判時參考。

很快，法官收到了原告代理律師郵寄過來的代理意見，意見書里還附帶名為最高人民法院與上海一中院的兩個參考案例。

北京市通州區(qū)人民法院法官 鄭吉喆：當時法官助理先做了一個審核，還是挺震驚的，跟我們這個案子好像描述的觀點，包括描述的內(nèi)容、情形都特別像，完美地還原這個案例目前的事實情況，裁判觀點是完美支持了他的訴請。

那么原告代理律師提交的這份書面代理意見，以及參考案例，在案件的審判中，會產(chǎn)生什么樣的影響呢？

北京市通州區(qū)人民法院法官 鄭吉喆：對于不太常見的這種訴求，我們也希望律師能夠提供相應的判例，如果確實說有道理，那么我們該依法支持，就應該依法支持。這也是在一個轄區(qū)之內(nèi)，那么統(tǒng)一裁判尺度的必要的一個手段。

兩個參考案例的事實細節(jié)、法律爭議與裁判邏輯，與審理中的案件高度契合，完美佐證了原告代理人的主張觀點，初看之下極具參考價值。但很快，法官發(fā)現(xiàn)了案例中一些不尋常的地方。

北京市通州區(qū)人民法院法官 鄭吉喆：我看到感覺是這個案子是AI生成的，這個格式像早年的AI生成的，左邊都帶一個實心點，包括當事人的這種模糊性。

參考案例格式異常

AI生成特征被識穿

參考案例格式異常，這引起了法官的注意。出于職業(yè)敏感，法官對這兩起案件進行查詢，發(fā)現(xiàn)兩起案件雖然存在，但真實的裁判文書與原告代理律師提交的內(nèi)容，完全不同。

北京市通州區(qū)人民法院法官 鄭吉喆：特別是當時她援引了上海一中院的2022滬01民終12345號，這是一個民間借貸的案件，這個跟現(xiàn)在原告代理人向我們提交的股權代持是一點關系都沒有，可以說叫風馬牛不相及。

在承辦法官的質詢下，原告代理律師終于承認，參考案例是他提煉本案的事實情節(jié)，然后反復向某AI大模型軟件提問，由軟件生成的參考案例。

北京市通州區(qū)人民法院法官 鄭吉喆：AI給她生成了這兩個案例，她覺得看著跟這個要求是一樣的，就忽視了這部分核實的過程，就直接把這個案例復制粘貼整合到了書面意見，就向法院進行了提交。

使用虛假意見材料

涉案律師承擔何種責任

事實雖已查清，一個新的問題又擺在了法官的面前，該如何判定律師的這一行為呢？因為代理意見與訴訟中的證據(jù)，在法律性質上，還是有著明顯的區(qū)別。

北京市通州區(qū)人民法院法官 鄭吉喆：這個證據(jù)我們說要對真實性、合法性、關聯(lián)性、證明目的來進行審核。像這種書面意見不需要這些，它更多的是通過梳理之后，有沒有類似的觀點，有沒有值得借鑒的，或者更多的是一種審判輔助性的行為，所以應該說還是有比較大的差別。

根據(jù)民事訴訟法的規(guī)定：訴訟參與人偽造、毀滅重要證據(jù)，妨礙人民法院審理案件的，人民法院可以根據(jù)情節(jié)輕重予以罰款、拘留；構成犯罪的，依法追究刑事責任。

北京市通州區(qū)人民法院法官 鄭吉喆：民事訴訟法明確規(guī)定是對于偽造重要證據(jù)的，明顯妨礙民事訴訟行為的，最嚴重的法院可以處以罰款或者拘留。但是對于其他的相當于意見，特別是這種書面材料，確實現(xiàn)行法律是沒有對這個問題的規(guī)定。

考慮到這一行為在法律上沒有明確的規(guī)定，且律師無明顯惡意，情節(jié)輕微，沒有造成嚴重后果，法院將這一情節(jié)寫進了案件的判決書，予以批評。“希望原告代理人引以為戒，在向法院提交參考案例、法條時，應當進行檢查和核驗，確保內(nèi)容的真實性和準確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序?！狈ü僖罁?jù)查明的事實，依法對案件作出裁判，對原告的部分請求不予采納。一審判決后，雙方均未提出上訴，判決已經(jīng)生效。

使用虛假參考案例

浪費司法資源

AI幻覺為了契合預設結果，編造法律依據(jù)或案情，這是技術工具的局限性帶來的結果。而部分當事人或者法律從業(yè)者，對AI過度依賴和盲目信任，反而忽視對信息真實性的核驗義務。近一段時期，AI生成的“證據(jù)”與“案例”入侵法庭，已并非個例，面對這一沖擊，除了依靠法官的慧眼，法律和相關的訴訟主體，也應當劃定紅線，守護不容模糊的法律邊界。

在通州法院的這起案例中，律師為滿足自身訴求，反復向AI提問，最終生成虛假參考案例。有專家認為，這樣的行為，不僅違反了律師的職業(yè)準則，也浪費了司法資源。

中國社會科學院法學研究所研究員 謝鴻飛：對律師來說他違反了律師職業(yè)的謹慎勤勉的義務，即便法院最后沒有參考這樣一個虛假的案例，但是也確實浪費了司法資源，所以我想就這樣的一種行為，它主要對司法的一個公信力以及司法資源的損傷可能最大的。

比生成參考案例更嚴峻的是，利用人工智能偽造證據(jù)、虛構事實的情況已經(jīng)出現(xiàn)。在湖北孝感大悟縣人民法院審理的一起房屋租賃合同糾紛案中，原告作為證據(jù)提交的水電表照片，帶有“AI生成”的水?。辉诜ü俚馁|詢下，原告最終承認，自己利用AI技術偽造證據(jù)，受到了訓誡。

中國政法大學教授 譚秋桂：他要給法庭提交了AI生成的這種圖片，他一定是給了機器一個指令要生成什么圖片，它就生成了。如果說他是當事人或者訴訟代理人向法院法庭提交了，明顯是通過AI生成的圖片的話，那是非常嚴重的妨害民事訴訟的行為了。

面對這一由人工智能帶來的新問題，在司法實踐中，也亟須明確審判規(guī)則。

2025年12月，北京市通州區(qū)人民法院的這起案例入選人民法院案例庫。裁判要旨中寫明：

訴訟參與人在民事訴訟活動中應當遵循誠信原則。

訴訟參與人提交通過人工智能技術獲取且未經(jīng)甄別核實的虛假案例的，應當承擔相應的法律后果。

情節(jié)輕微的，人民法院可以對其進行批評教育；情節(jié)較重的，可以參照民事訴訟法第一百一十四條第一款的規(guī)定處理。

中國政法大學教授 譚秋桂：通過AI搜索到的材料，它的真實性，它是屬于民訴法規(guī)定的誠信原則的調整范圍，來源要講清楚，你不能說本來是自己用AI生成的，你說是自己調取的。對于案件甄別和核實的責任，在于訴訟參與人自己，如果不真實，有虛假成分或者是虛假的，相應的主體，就是提供者，還要承擔相應的法律責任。

除了在法律上明晰此類問題的審判原則和法律依據(jù)，也有專家建議，司法機關與各法律主體都需探索建立相應規(guī)則，劃定邊界，應對人工智能帶來的風險和挑戰(zhàn)。

北京航空航天大學法學院副教授 趙精武：人民法院等司法機關應當更加謹慎客觀地評估證據(jù)的法律效力，司法行政部門應當適時規(guī)范律師的從業(yè)行為，并不是直接禁止其使用AI工具，而是禁止其在司法活動中非法使用AI合成內(nèi)容。訴訟當事人、律師等法律主體應當嚴格遵守法律法規(guī)，尊重司法權威，不得利用AI工具從事偽造證據(jù)等違法犯罪活動。

編輯|陳柯名 杜波 杜恒峰

校對|許紹航?

本文轉載央視新聞