AI幻覺「侵權」，不能甩鍋給技術「不可預見」

　　作者：克鮮

　　律師被AI「判刑」了？據媒體報道，江蘇南京律師李小亮在百度搜索其姓名＋職務時，平臺的「AI智能回答」竟憑空編造「李小亮律師被判三年有期徒刑」的虛假內容，並且展示了李小亮穿着律師袍的照片。之后，律師憤而起訴百度公司。

　　百度以AI幻覺「不可預見」作為抗辯理由。最終，法院綜合百度的過錯程度、侵權時間、損害后果等因素，認定百度構成名譽侵權，要求百度向李小亮書面道歉，並且判決已經生效。

　　堂堂一名律師，被AI「編造」犯罪服刑，且處於平臺搜索結果的前列位置，勢必對其名譽權以及其職業發展帶來嚴重的損害。誰要對AI幻覺承擔法律責任呢？所謂「技術中立」是不是免責的理由？如果要求相應的人工智能內容生成平臺「零差錯」「零幻覺」，是否會妨礙中國方興未艾的AI產業的發展？司法政策到底應該如何制定？

　　此前，國家網信辦等部門發佈的《生成式人工智能服務管理暫行辦法》提到，提供和使用生成式人工智能服務，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。其中，特別提到服務提供者應當「採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性」。公正的司法判決能夠引導AI服務提供商增強生成數據的真實性，從而推動AI技術向上向善。

　　AI不是「虛空之物」，它的背后是相應的企業主體，企業應當承擔相應的法律責任。前沿的法學研究顯示，AI本身雖然無民事主體資格，但生成內容是服務商訓練、算法、運營的延伸行為，不能以「技術中立」免責。而且，AI智能回答不同於普通的搜索結果呈現，它是百度主動加工、圖文合成、定向推送的，屬於自身發佈行為，要對其內容真實性承擔相應責任。

　　當然，AI技術目前並不成熟，仍在高速迭代與發展當中，服務者的責任應該與過錯程度、損害后果、技術水平等相匹配，做到以「行業最優可行技術（BAT）」防範侵權內容的生成。法院判決公司構成侵權，一個重要的理由就是，同行業的其他模型未發生此類「低級錯誤」——憑空編造一個律師犯罪，足以證明百度未盡到達到行業合理水平的防範義務。有能力防範卻沒有防範，那就應該承擔法律責任。

　　相對於種種AI提供錯誤信息的「烏龍」，AI平臺「誹謗」律師犯罪的社會影響更加惡劣，這也反向要求平臺拿出有力的措施防範、攔截涉及公民人格權利的高敏感信息。AI在生成關於公民是否犯罪等敏感的信息時，在技術層面上，完全可以通過關聯權威司法平臺、校驗司法判決、覈實機構媒體報道等手段予以證偽。如果沒有做必要的真實性校驗，就發佈了影響惡劣的錯誤信息，那就構成了侵權。

　　治理AI幻覺，平臺不能甩鍋給技術。相反，「可防而未防」，那就是過錯。對於可預見、可防控的AI幻覺不能免責，企業有能力風控卻疏於作為就要承擔侵權后果。對此，還要靠司法立規，以裁判明責任、以追責強約束，倒逼行業摒棄僥倖心理，從事后被動兜底轉向事前源頭治理、全流程風險管控。總之，治理AI幻覺，不能甩鍋給技術「不可預見」。（克鮮）

[ 責編：金凌冰 ]