加州参议院通过法案，规范律师使用人工智能

在第7段中添加了乌姆伯格参议员的评论。

萨拉·默肯

纽约1月30日（路透社）--加州参议院周四通过的一项法案将要求该州律师验证使用人工智能生成的所有材料的准确性，包括案件引用和法庭文件中的其他信息。

该措施似乎是州立法机构关于律师使用人工智能的首批悬而未决的措施之一，已提交州议会审议。

除了规范加州律师对人工智能的使用外，该法案还禁止主持庭外纠纷的仲裁员将决策委托给生成性人工智能，以及在未首先告知当事人的情况下依赖人工智能在案件记录之外产生的信息。

随着律师、法官和其他人越来越多地转向聊天机器人和其他专业且公开可用的人工智能工具，全国各地的法院都在努力应对人工智能在法律实践中的好处和陷阱。该技术可以生成被称为“幻觉”的虚构细节，这导致数十起案件中的律师和自我辩护诉讼当事人因未审查人工智能生成的案件引用和法庭文件中包含的其他材料而受到制裁或谴责。

加州法案规定的律师将被要求采取“合理措施”来验证使用人工智能制作的材料的准确性，纠正任何虚假或幻觉输出，并删除他们使用的任何人工智能生成材料中的偏见内容。

律师还将被禁止将机密、个人身份或其他非公开信息放入公共生成人工智能工具中，并必须确保人工智能的使用不会“非法歧视”人们或社区。

加州参议院司法委员会主席、民主党参议员汤姆·乌姆伯格提出了这项名为SB 574的法案。“作为人工智能由于在法律体系中变得越来越普遍，我们需要明确的护栏来保护客户的机密，并确保真正的人而不是算法做出法律决定，”乌姆伯格周五在给路透社的一份声明中表示。

该措施是加州旨在管理人工智能潜在危险的几项措施之一，其中包括一项新法律，要求大公司披露计划如何减轻其尖端人工智能模型潜在的灾难性风险。

管理律师人工智能使用的法案基于对该州律师有约束力的要求，例如法庭文件需要得到现有法律的支持。

根据参议院的一项分析，它效仿了加州关于法官和法院工作人员使用人工智能的规则，以及州上诉法院的一项裁决，该裁决对一名伪造信息的律师处以10，000美元的罚款，并警告需要阅读和验证所有引用。

（Sara Merken在纽约报道）