法院，幫AI大模型“反詐”
見多了“李逵”訴“李鬼”，沒想到還會碰到“李鬼”訴“李逵”……2024年3月，上海市青浦區人民法院西虹橋(進口博覽會)人民法庭受理了一起低知名度商標權利人起訴高知名度商標權利人的“傍名牌”案件，由此逐步揭開了部分人員利用AI大模型技術實施“虛假”取證的真相……
在數字化浪潮的推動下，擁有自主學習和處理海量數據能力的AI大模型技術，正成爲推動新質生產力發展的關鍵力量。人民法院在支撐和服務新質生產力發展的同時，如何確保司法公正不被技術操縱，記者決定到西虹橋法庭一探究竟。
“李鬼”訴“李逵”
“第一次拿到這起案件時，我還以爲是一起‘普通’的侵害商標權糾紛案件。”見到該案承辦法官趙暉暉時，他正在上海法院辦案系統前，認真梳理着證據材料。
趙暉暉告訴記者，這起案件跟社會關注的“競價排名”有關。原告作爲“海上祥雲”(化名)商標的註冊人，在某搜索引擎平臺輸入“海上祥雲麪點加盟官方網站”後發現，佔據首位的竟然是“上海祥雲麪點網站-加盟總部-專注餐飲加盟20年”廣告鏈接，點擊進入網頁後，介紹的也是“祥雲麪點”的加盟流程和品牌優勢。
原告認爲，被告購買了搜索引擎的廣告服務，並有意選用了與“海上祥雲”商標相近的搜索關鍵詞進行網絡推廣，侵害了自己的商標權利，因此起訴到法院，要求被告賠償經濟損失及合理開支。
可仔細一想，趙暉暉發現了不對勁。
“祥雲麪點”的知名度遠遠高於“海上祥雲”，爲什麼還要“傍名牌”“蹭熱度”？趙暉暉撥通了被告“祥雲麪點”商標權人的電話。“我們從來沒有添加過‘海上祥雲’等關鍵詞。”對方極力否認侵權。
根據以往的辦案經驗，只要向搜索引擎平臺調取被告的關鍵詞設置歷史記錄，這類案件一般就可以真相大白了。於是，青浦區法院向涉案搜索引擎公司發出了協助調查函，而根據該公司提供的數據，被告確實沒有設置過“海上祥雲”等關鍵詞。
得知這一結論後，原告代理律師提起了撤訴。
然而，兩個月後，趙暉暉又承辦了一起類似的商標侵權案，被告依然是“祥雲麪點”的商標權人，被訴侵權行爲依然是利用原告商標進行類似的網絡推廣，不同的是原告變成了“四季冒菜”(化名)商標的註冊人。
“更蹊蹺的是，我們比對後發現，這兩起案件的原告都委託了同一個律師團隊進行法律代理。正值上海法院全面推進數字法院建設，我們通過辦案系統的‘數助辦案’功能檢索後進一步確認，這個律師團隊竟然在全國代理了400起類似的案件。”趙暉暉說。
由於這些案件涉及到同一個搜索引擎平臺，趙暉暉決定將搜索引擎公司作爲第三人蔘加訴訟。
而在這時，搜索引擎公司也發現了異樣，並進行了細緻的查證工作。“根據我方的後臺記錄，原告通過同一IP進行了多次且連續的非正常搜索，觸發了搜索引擎系統故障，才導致被告的網址鏈接出現在搜索結果頁面。”搜索引擎公司的代理律師在庭審中辯解道。
既然是系統BUG惹的禍，原告代理團隊與搜索引擎公司確認後，很快申請了撤訴，並承諾將其他在訴案件申請撤訴，擬訴案件今後不再起訴。
這個結果可謂皆大歡喜，可趙暉暉心中卻埋下了疑惑的種子：原告代理團隊爲什麼要非正常搜索？這些訴訟行爲的真正動機是什麼？
破解技術惡意取證
審判工作不能簡單地止於糾紛化解，還要進一步發揮司法的延伸作用。
2024年8月17日下午，一場期待已久的知識產權司法保護座談會“如約而至”。應青浦區法院邀請，搜索引擎公司商業產品法務部負責人李先生專程從北京飛往上海，來到西虹橋法庭進行深入交流。陪同的還有該公司上海地區的法律顧問。
而就是在這場會議中，趙暉暉獲知了一條重要信息：400起案件都發生在搜索引擎平臺引入大模型技術的關鍵時期!
原來，近年來，AI大模型作爲新質生產力的重要驅動力，在國內外均呈現迅猛發展態勢，其商業化應用已覆蓋醫療、金融等多個領域，展現出顯著的行業價值。爲了維持“頭部”企業優勢，搜索引擎公司也引入了這項先進技術，希望通過大模型強大的自我學習能力，不斷優化搜索結果，以更好地適應和反映用戶的偏好。
“那麼，大模型是怎麼運作的？本案中的系統BUG又是如何出現的？”在審理這些案件之前，趙暉暉對大模型技術並不是特別瞭解，他抓住座談交流的機會，拋出了心中的疑惑。
“我舉一個通俗易懂的例子。”李先生解釋道，“比如我詢問大模型，我們公司的CEO是誰，它一開始也許會提供一個準確的答覆。但是，如果我持續對答案提出質疑，大模型就會陷入懷疑，CEO會不會是另一個人，經過一定時間的學習後，可能就會調整回答，反饋給我一個錯誤的信息。”
李先生進一步介紹，對應到這批案件中，原告律師團隊持續搜索“海上祥雲麪點加盟官方網站”或“四季冒菜”等相關詞組，跳出正確的網頁鏈接後卻不點擊進入，直到被告“祥雲麪點”的推廣鏈接出現在第一個詞條，才點擊查看，導致大模型出現“幻覺”，認爲“祥雲麪點”推廣頁面是“正確答案”，從而輸出了貌似侵權的結果。
“這哪裡是簡單的系統BUG，明明是數據訓練出現了‘樣本污染’，這是一場蓄謀的欺詐，一場針對大模型的欺詐。”趙暉暉突然驚覺。
出席座談會的西虹橋法庭法官們也意識到了問題的嚴重性，紛紛爲李先生分析了潛在的訴訟風險：
“這類案件具有批量化特點，如果搜索引擎公司直接被列爲被告，頻繁應訴將花費大量的資源。”
“即使公司不被列爲被告，後期也可能面臨很多無端的追償。”
“更爲嚴重的是，如果搜索引擎平臺的行爲被定性爲侵權，對於正處於發展關鍵期的大模型技術來說，可能將是一場災難。”
“感謝法院幫我們化解了糾紛，還及時發現了潛在的風險，推動我們加強大模型的後續訓練與升級。”李先生向青浦區法院法官連連致謝，並代表公司將一塊“專業審判護航新質生產力發展”牌匾遞到了法官們手中。
協同推進知識產權司法保護
“對於這次審判實踐，我們有一個形象的比喻，叫‘幫大模型反詐’。”西虹橋法庭副庭長陳強告訴記者，結束座談會後，法庭內部也展開了一場“頭腦風暴”。
一方面，爲適應新質生產力發展需求，應對知識產權保護領域中出現的新情況、新問題，法庭研究後決定，向搜索引擎公司發送司法建議，提醒該公司強化數據訓練、積極構建與客戶的溝通機制、加強大模型的日常監測與預警能力，推動人工智能在新質生產力發展中發揮積極作用。
另一方面，對於涉嫌非正常訴訟的原告代理團隊，法庭也制定了約談、查證以及後續處理的相關計劃。
“我們一致認爲，司法應當保護大模型等新技術、新產品，但對於利用這些新技術、新產品實施的違法犯罪行爲，還是要及時地進行規制。”陳強說。
記者瞭解到，搜索引擎公司收到法院發送的司法建議後，給予了積極迴應，表示已經在流量監控、數據訓練和模型優化等層面進行了多角度升級，進一步確保了大模型技術應用的正當性與合法性。
長期以來，位於國家會展中心的西虹橋法庭，主要受理涉進口博覽會、涉會展業、涉國家會展中心的民商事案件，以及具有涉外性質的商事案件。自2022年7月，上海市高級人民法院對知識產權案件管轄作出調整後，法庭開始增加受理青浦區轄區內的知識產權案件。
“與知識產權司法保護工作起步晚形成對比，隨着北斗產業園、華爲練秋湖研發中心、上海美的全球創新園區等項目落地，轄區高新技術企業越來越多，案件的新穎性、前沿性、複雜性也越來越明顯，如何做好知識產權審判工作，是法庭必須面對的難題。”陳強說。
青浦區法院堅持協同保護理念，攜手區檢察院、區市場監管局，共同編織青浦區知識產權全鏈條保護網絡。並在此基礎上，進一步發揮區位優勢，聯合上海青浦、浙江嘉善、江蘇吳江三地司法與行政力量，構建起長三角示範區知識產權保護的堅固防線。
“根據各方共同簽署的框架協議，我們將通過涉訴信息共享、調查取證協作、案件研討交流、典型案例聯合發佈、失信主體黑名單共同管理等舉措，進一步加強對涉新質生產力企業案件的高效處置和前瞻調研，以此擴大知識產權保護的覆蓋面與影響力。”陳強解釋。
而上海數字法院建設也爲知識產權保護開拓了新局面。“通過‘數助辦案’功能模塊，我們可以及時洞察批量關聯案件中的潛在問題與異常模式，這是傳統個案審理無法實現的。”趙暉暉介紹。
目前，青浦區法院已經在數字化轉型道路上更進一步。該院申報的“涉惡意訴訟智能提示”應用場景正在加速推進中，旨在通過大數據分析與智能算法，自動識別並預警潛在的惡意訴訟行爲。
“在法治中國的航標指引下，我們要做的，就是照亮創新之路，爲新興產業的航程提供堅實的法治之盾。”青浦區法院黨組書記、院長方正傑告訴記者，“希望在司法的守護下，每一項創新都能在新質生產力的浪潮中茁壯成長，每一次探索都能在公正的法治環境中勇敢前行，共同繪製出一幅法治與創新交相輝映的美好圖景。”(記者 郭燕 通訊員 許超 李德耀)
來源：人民法院報