据《纽约时报》今天报道，起诉哥伦比亚航空公司Avianca的律师们提交了一份充满之前案例的辩护状，有趣的是这些案例都是ChatGPT一本正经地编造的。在对方律师指出这些不存在的案例后，美国地区法官凯文-卡斯特尔确认，”提交的案例中有六个似乎是假的司法判决，有假的引文和假的内部引用”，并在考虑对原告律师发起制裁时安排了一场听证会。
律师史蒂芬-A-施瓦茨在一份宣誓书中承认，他曾使用OpenAI的聊天机器人进行研究。为了核实这些案件，他做了唯一合理的事情：他问聊天机器人是否在撒谎。
一张截图显示，律师问其中一个引用的案例是否真实，而聊天机器人回答说是，律师接着问：”你的消息来源是什么?”结果ChatGPT为之前的混乱叙述道歉，并坚持认为该案件是真实的，说可以在Westlaw和LexisNexis上找到。他很满意，问其他案件是否是假的，ChatGPT坚持认为它们都是真的。
对方律师在叙述Levidow, Levidow & Oberman律师提交的材料是如何充满谎言的时候，让法庭意识到了这个问题的细节。在一个例子中，一个名为Varghese v. China Southern Airlines Co., Ltd.的不存在的案例中，聊天机器人似乎参考了另一个真实的案例Zicherman v. Korean Air Lines Co., Ltd.，但把日期(和其他细节)弄错了，说它是在1996年的原始裁决12年后决定的。
施瓦茨说他”没有意识到其内容可能是假的”。他现在”非常后悔利用生成性人工智能来补充这里进行的法律研究，并且在没有绝对核实其真实性的情况下，今后也不会这样做。”
施瓦茨没有被允许在纽约南区执业，但在诉讼被转移到该法院之前，他最初提出了诉讼，并说他继续在这方面工作。同一公司的另一名律师彼得-罗杜卡(Peter LoDuca)成为该案的记录律师，他将不得不在法官面前解释到底发生了什么。
这再次凸显了使用聊天机器人进行研究而不在其他地方对其来源进行双重(或三重)检查的荒谬性。微软的必应首次亮相，现在已经与赤裸裸的谎言、气话和情感操纵臭名昭著。Google的人工智能聊天机器人Bard在其第一个演示中编造了一个关于詹姆斯-韦伯太空望远镜的事实。在今年三月的一个搞笑的例子中，Bing甚至谎称Bard被关闭了。
法官指出了律师的辩护状是一个绝对的谎言大会：如果你连字母”e”在番茄酱中出现了多少次都搞不清楚，那么在模仿书面语言的模式以保持坚定的信心方面做得再好也没有什么价值。