AI幻觉扰乱法庭,美国律师被重罚

安全 应用安全 人工智能
继上月曝出律师团队使用AI编造的“虚假判例”提交法庭引发风波后,美国法律界再曝同类丑闻——印第安纳州南区联邦治安法官马克·丁斯莫尔上周裁定,律师拉斐尔·拉米雷斯因在多份法律文书中引用AI生成的虚构案例,需缴纳1.5万美元罚款。

继上月曝出律师团队使用AI编造的“虚假判例”提交法庭引发风波后,美国法律界再曝同类丑闻——印第安纳州南区联邦治安法官马克·丁斯莫尔上周裁定,律师拉斐尔·拉米雷斯因在多份法律文书中引用AI生成的虚构案例,需缴纳1.5万美元罚款。这一系列事件暴露AI技术滥用对司法严谨性的冲击,也为法律从业者敲响“责任警钟”。

律师称“没想到AI居然会造假”

案件缘起于一场劳资纠纷:工会组织“中中部运营工程师健康与福利基金”指控HoosierVac公司拒绝配合财务审计,拉米雷斯作为该公司代理律师,在2023年10月提交的辩护状中引用了一则法官无法检索到的判例。面对质疑,拉米雷斯承认引用错误并撤回相关段落,同时向法庭及对方律师致歉。然而,法官随后对其经手的其他文件展开“彻底审查”,发现另两份辩护状中仍存在“虚构判例”。

根据法庭文件,拉米雷斯解释称,他此前曾使用AI处理法律事务(如起草协议),但“从未意识到AI可能生成虚假案例及引文”。他声称,这些由AI生成的“幻觉引用”包含看似可信的文本摘录,因此未进一步核实案例真实性。拉米雷斯表示,事后已参加AI法律应用继续教育课程,并改用“保证不会生成虚构案例”的AI工具。

然而,法官丁斯莫尔对“技术无知”的辩护并不买账。他在裁决书中指出:“拉米雷斯显然未对法律条文进行必要的基本调查。即便付出最微小的努力,他也能发现这些AI案例纯属虚构。AI生成内容看似可信,但无法免除律师合理核查的义务。”他最终建议对拉米雷斯处以1.5万美元罚款,并警告此类行为可能引发更严厉处罚。

法官疾呼“谨慎使用AI工具”

此次事件并非孤例。今年1月,一起针对悬浮滑板制造商及沃尔玛的锂电池缺陷索赔案中,律师提交的法庭文件引用8个不存在判例。2月,美国地区法官凯利要求涉事律师解释为何不应受罚。涉事律师承认“未察觉AI生成案例有误”,并称此案是“法律界的警示故事”。

上周,法官兰金(Judge Rankin)对该案律师团队作出处罚:一名律师被吊销“临时执业许可”,禁止参与案件;其余三人分别被罚款1000至3000美元。兰金强调,AI工具的使用必须符合律师职业道德与职业责任,“换言之,使用人工智能必须辅以人类智慧的执行”。

丁斯莫尔法官在裁决书中特别澄清,其立场“并非否定AI技术价值或禁止律师使用AI”,他本人甚至是“法律科技应用的坚定支持者”。但他将AI比作“电锯”——虽是有用工具却具危险性,“使用者必须理解其特性并谨慎操作”。

法律行业技术伦理建设的转折点

随着生成式AI在法律检索、文书起草等场景加速渗透,“虚构判例”争议持续发酵。支持者认为AI可提升效率,但批评者指出,过度依赖技术可能导致“核查惰性”,危及司法严谨性。法律伦理专家指出,类似事件暴露出两大问题:一是部分从业者对AI技术局限性的认知盲区;二是行业尚未建立AI辅助办案的标准化审查流程。

“技术革新不能成为失职借口,”一名法律科技研究员表示,“律师需意识到,AI是‘助手’而非‘替代者’,任何技术应用必须置于职业责任的框架之下。”目前,美国多州律师协会已着手制定AI使用指南,要求从业者接受专项培训,并对AI生成内容进行交叉验证。这场由“AI幻觉”引发的司法信任危机,或将成为推动法律行业技术伦理建设的关键转折点。

责任编辑:华轩 来源: GoUpSec
相关推荐

2025-02-17 11:13:40

2025-02-19 10:01:51

AIChatGPT人工智能

2023-01-11 13:14:10

AI律师电脑

2009-02-05 09:34:51

SaaSSaaS服务成本缩减

2016-07-29 00:53:58

云计算高性能计算市场

2023-05-24 15:15:55

2009-01-15 08:48:32

北电破产负债

2024-08-20 07:47:12

AI零代码网关

2024-10-11 15:54:04

2009-02-19 10:51:06

Vista标签诉讼

2023-12-06 10:42:14

亚马逊AI工具

2013-02-22 15:36:06

Java甲骨文Oracle

2024-05-09 18:17:48

特斯拉

2023-01-27 15:11:39

人工智能AI 律师律师

2024-11-04 10:20:00

模型数据

2024-08-05 09:14:14

2023-04-23 20:37:43

2024-10-09 14:40:42

2023-09-14 12:35:59

2023-01-10 23:36:22

AI律师辩护
点赞
收藏

51CTO技术栈公众号