加州參議院通過法案，規範律師使用人工智能

在第7段中添加了烏姆伯格參議員的評論。

薩拉·默肯

紐約1月30日（路透社）--加州參議院周四通過的一項法案將要求該州律師驗證使用人工智能生成的所有材料的準確性，包括案件引用和法庭文件中的其他信息。

該措施似乎是州立法機構關於律師使用人工智能的首批懸而未決的措施之一，已提交州議會審議。

除了規範加州律師對人工智能的使用外，該法案還禁止主持庭外糾紛的仲裁員將決策委託給生成性人工智能，以及在未首先告知當事人的情況下依賴人工智能在案件記錄之外產生的信息。

隨着律師、法官和其他人越來越多地轉向聊天機器人和其他專業且公開可用的人工智能工具，全國各地的法院都在努力應對人工智能在法律實踐中的好處和陷阱。該技術可以生成被稱為「幻覺」的虛構細節，這導致數十起案件中的律師和自我辯護訴訟當事人因未審查人工智能生成的案件引用和法庭文件中包含的其他材料而受到制裁或譴責。

加州法案規定的律師將被要求採取「合理措施」來驗證使用人工智能製作的材料的準確性，糾正任何虛假或幻覺輸出，並刪除他們使用的任何人工智能生成材料中的偏見內容。

律師還將被禁止將機密、個人身份或其他非公開信息放入公共生成人工智能工具中，並必須確保人工智能的使用不會「非法歧視」人們或社區。

加州參議院司法委員會主席、民主黨參議員湯姆·烏姆伯格提出了這項名為SB 574的法案。「作為人工智能由於在法律體系中變得越來越普遍，我們需要明確的護欄來保護客户的機密，並確保真正的人而不是算法做出法律決定，」烏姆伯格周五在給路透社的一份聲明中表示。

該措施是加州旨在管理人工智能潛在危險的幾項措施之一，其中包括一項新法律，要求大公司披露計劃如何減輕其尖端人工智能模型潛在的災難性風險。

管理律師人工智能使用的法案基於對該州律師有約束力的要求，例如法庭文件需要得到現有法律的支持。

根據參議院的一項分析，它效仿了加州關於法官和法院工作人員使用人工智能的規則，以及州上訴法院的一項裁決，該裁決對一名偽造信息的律師處以10，000美元的罰款，並警告需要閲讀和驗證所有引用。

（Sara Merken在紐約報道）