Юристы использовали ИИ для подготовки дела: чат-бот придумал прецеденты, которых не существует

Безоговорочное доверие результатам генеративного ИИ может быть опасным. Это подтверждает история о том, как адвокаты, участвующие в разбирательстве по делу о дефектном товаре, предоставили суду документы со ссылками на несуществующие дела, пишет издание The Register.

Изображение сгенерировано Microsoft Bing

Адвокатам пришлось извиниться перед председательствующим судьей за подачу документов, содержащих ссылки на несуществующие юридические прецеденты.

Иск был подан в июне 2023 года против Walmart и Jetson Electric Bikes в связи с пожаром, якобы вызванным гироскутером. Сообщается, что пожар уничтожил дом истцов и причинил серьезные ожоги членам семьи.

По теме: Мисс искусственный интеллект-2024: в мире выбрали самую красивую цифровую модель

На прошлой неделе окружной судья Вайоминга Келли Ранкин издал приказ, требующий от адвокатов истцов объяснить, почему к ним не должны быть применены санкции за указанные восемь несуществующих дел в поданном 22 января 2025 года документе. Эти ссылки были частью аргументации адвокатов, которые стремились исключить определенные доказательства из рассмотрения судом присяжных.

Данный аргумент был изложен в in limine – особом типе ходатайства, позволяющем исключить определенные доказательства из рассмотрения на суде, и оно рассматривается без участия присяжных. В документе приводится девять прецедентных дел, одно из которых – «Мейер против города Шайенн», 2017 WL 3461055 (D. Wyo. 2017). Как указано в последующем заявлении, это дело было вымышленным и сгенерировано ChatGPT от OpenAI.

Ситуация усугубляется тем, что номер дела (2:16-cv-00246-SWS), указанного в числе поддельных, является реальным и относится к делу 2:16-cv-00246-NDF – судебному разбирательству 2016 года «Американская кампания по защите диких лошадей и другие против Департамента внутренних дел США и других ответчиков», которое рассматривалось другим судьей – Нэнси Д. Фройдентал, а не ошибочно указанным Скоттом В. Скэвдалом.

Как отметил судья Ранкин, восемь из девяти ссылок в январском ходатайстве были либо полностью вымышленными, либо указывали на дела с другими названиями. Ссылаясь на прошлые случаи использования ИИ в судебных процессах, в том числе «Mata против Avianca, Inc», «Соединенные Штаты против Хейса» и «Соединенные Штаты против Коэна», судья потребовал от подписавших документ адвокатов объяснить, почему к ним не должны быть применены меры наказания.

Двое из адвокатов – Тали Гуди и Т. Майкл Морган – 10 февраля подали совместный ответ, в котором признали ошибку. В их заявлении говорится:

«Наша внутренняя платформа искусственного интеллекта ‘воображала’ дела, о которых идет речь, во время помощи нашему адвокату в составлении ходатайства in limine.

Этот инцидент сильно смутил нас и побудил к обсуждению и пересмотру вопросов обучения, внедрения и дальнейшего использования искусственного интеллекта в нашей фирме.

Это послужило предостережением для нашей фирмы и всех юридических компаний в эпоху развития искусственного интеллекта».

В попытке избежать подобных ситуаций в будущем юридическая фирма Morgan & Morgan, где работает Т. Майкл Морган, 10 февраля добавила в свою ИИ-платформу функцию подтверждения, требующую осознания ограничений искусственного интеллекта и ответственности адвокатов при его использовании.

13 февраля третий участвовавший в деле адвокат Рудвин Аяла взял всю вину на себя в своем заявлении, чем освободил коллег от ответственности за подготовку ошибочного документа.

«Часть моей подготовки указанных ходатайств in limine включала использование внутреннего ИИ-инструмента для поиска дополнительных судебных прецедентов в поддержку аргументации, изложенной в ходатайствах.

После загрузки моего проекта ходатайства в систему искусственного интеллекта я сделал несколько запросов, среди которых ‘добавить в это ходатайство in limine федеральное судебное право Вайоминга, устанавливающее требования к таким ходатайствам’, а также ‘добавить больше судебных решений, касающихся ходатайств in limine’.

Еще один запрос был таким: ‘Добавить в это ходатайство in limine абзац о том, что доказательства или комментарии о том, что пожар мог быть вызван небрежно выброшенной сигаретой, должны быть исключены, поскольку нет фактических доказательств этого, и такой аргумент является недопустимым нагромождением предположений и чистой спекуляцией. Включить судебные решения федеральных судов Вайоминга в поддержку исключения такого рода доказательств’.

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York

Были и другие аналогичные запросы на добавление судебных решений для обоснования исключения доказательств. Это был первый случай в моей карьере, когда я использовал ИИ для подобных запросов».

Вероятно, это был и последний раз. После подробного объяснения ситуации адвокат попросил суд о снисхождении.

«С глубоким раскаянием в сердце я искренне прошу прощения у этого суда, у моей фирмы и у коллег, представляющих ответчиков, за эту ошибку и любые неудобства, которые я мог причинить. Прошлая неделя стала для меня большим профессиональным и личным испытанием, и я гарантирую, что подобное больше никогда не повторится».

Читайте также на ForumDaily:

Что из себя представляет DeepSeek: китайский чат-бот, который переплюнул американские ИИ-разработки

ЦРУ создало цифровые копии мировых лидеров и общается с ними

В Аризоне набирают желающих в школу, где будет преподавать ИИ

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.