法律行业“AI 幻觉”加剧，美多名律师因引用虚假内容而遭处分

据报道，一家著名的美国个人伤害律师事务所向其1000多名律师发出警告，称AI有能力编造虚假判例信息，并可能导致律师被解雇。

最近，怀俄明州的一名联邦法官威胁要对该律师事务所的两名律师予以制裁，因为他们在一宗针对沃尔玛的诉讼中引用了虚假的判例。

一位律师承认在法庭文件中使用了一款“创造”案例的AI程序，并由此造成了意外错误。据报道，在过去两年中，AI在法律文件中生成虚假信息的趋势导致了美国多个法院对至少七起案件中的律师进行了质疑或纪律处分。

生成式AI技术的进步有助于减少律师的研究和起草时间，许多律师事务所因此选择与AI供应商合作或开发自己的AI工具。根据调查显示，去年有63%的律师表示他们曾在工作中使用AI，其中12%的律师说会定期使用。

然而，生成式AI以“自信地编造事实”而闻名，法律专家提醒律师在使用AI时必须格外小心。有时AI会像“幻觉”一样生成虚假信息，这是因为它们基于从大量数据中学到的统计模式进行生成，而非确认事实的准确性。

律师道德规范要求律师对其提交的法庭文件负责并加以核实，否则将面临纪律处分。美国律师协会去年告知全体会员，甚至是通过AI生成的“无意错误”也必须遵守这一义务。

萨福克大学法学院院长Andrew Perlman表示：“即使法律研究工具发生了变化，后果也没有改变。”同时，他也是一位倡导利用AI提升法律工作效率的专家。

他补充道：“当律师在没有核实的情况下使用ChatGPT或任何生成式AI工具来编造引用时，这就是不称职。”

文中包含的对外链接仅用于传递信息，结果仅供参考。