ChatGPT выдумал свидетелей, юриста оштрафовали на $5000 за апелляцию по делу об убийстве

Верховный суд штата Нью-Мексико в постановлении, вынесенном в среду, оштрафовал юриста Стивена Ааронса на $5000 и признал его виновным в неуважении к суду. Причина, апелляционная жалоба по делу об убийстве, за которое осудили его клиента: Ааронс не проверил фактические утверждения и юридические ссылки в жалобе, подготовленной с помощью ИИ. Как сообщает Reuters, в жалобе оказались «показания полностью вымышленных свидетелей», а также ложные сведения о внешности и одежде стрелявшего.

На слушании в августе судья Верховного суда Нью-Мексико Шеннон Бейкон спросил Ааронса, как тот мог не знать о рисках использования ИИ. Юрист признал, что использовал ChatGPT, рассчитывая получить «непробиваемое резюме» дела. «Адвокат, вы смотрите новости? Слушаете радио? Читаете хоть что-нибудь о происходящем в мире?, сказал судья Бейкон, по данным Reuters., Потому что проблема юристов, полагающихся на галлюцинации ИИ, это новость на первой полосе каждый божий день».

Издание также напоминает: по мере того как всё больше юристов используют ИИ-инструменты в работе, растёт и число случаев, когда суды обнаруживают в документах вымышленные или галлюцинированные ИИ факты и ссылки. В прошлом году судья уже наказывал две юридические фирмы за жалобу с «многочисленными ложными, неточными и вводящими в заблуждение юридическими ссылками и цитатами», это отдельное, не связанное с Ааронсом дело. Юристов Майка Линделла (MyPillow) в другом деле оштрафовали за поддельные ИИ-цитаты и неверные цитирования.

Сам Ааронс заявил Reuters: «Я раскаиваюсь, но надеюсь, что дисциплинарная комиссия учтёт, что это была честная ошибка».

Ключевые факты

Верховный суд штата Нью-Мексико постановлением от среды оштрафовал юриста Стивена Ааронса на $5000 и признал его виновным в неуважении к суду, он не проверил факты и юридические ссылки в апелляционной жалобе по делу об убийстве, подготовленной с помощью ИИ (по данным Reuters).
В жалобе оказались «показания полностью вымышленных свидетелей» и ложные сведения о внешности и одежде стрелявшего, говорится в постановлении суда.
На слушании в августе судья Шеннон Бейкон спросил Ааронса, как тот мог не знать о рисках ИИ; юрист признал, что использовал ChatGPT, рассчитывая получить «непробиваемое резюме» дела.
Судья заметил, что проблема юристов, полагающихся на ИИ-галлюцинации, «новость на первой полосе каждый божий день», и спросил, следит ли Ааронс вообще за новостями и слушает ли радио.
Издание приводит два похожих случая: судья ранее наказывал две юридические фирмы за вымышленные цитаты в отдельном деле, а юристов Майка Линделла (MyPillow) оштрафовали за поддельные ИИ-цитаты в другом; сам Ааронс назвал произошедшее «честной ошибкой», о которой сожалеет.

Почему это важно

Верховный суд штата, высшая судебная инстанция, не просто пожурил юриста, а формально оштрафовал его и признал виновным в неуважении к суду за бездумное использование ИИ. Дело касается апелляции по убийству, то есть на кону свобода клиента, а не только деньги или репутация, и именно поэтому реакция суда оказалась жёсткой. История также не единична: Издание в том же материале напоминает о двух похожих случаях, то есть рост числа юристов, использующих ИИ, идёт рука об руку с ростом числа судов, ловящих в документах вымышленные факты и цитаты.

Кому это важно

Юристам и юридическим фирмам, использующим ChatGPT и подобные инструменты для черновиков документов, случай прямо показывает цену пропущенной проверки. Клиентам по уголовным и другим делам, от качества апелляции реально зависит их судьба, а не только репутация адвоката. Коллегиям адвокатов и дисциплинарным органам, которые формируют правила использования ИИ в юридической практике, этот случай наверняка станет одним из примеров при таком обсуждении. Судебной системе в целом, рост числа подобных случаев означает дополнительную нагрузку на проверку документов, которые всё чаще могут быть основаны на ИИ.

Как это применить

Практический вывод сформулировал сам суд: любой факт, цитату, имя свидетеля и юридическую ссылку, сгенерированные ИИ, нужно сверять с первоисточниками, материалами дела, протоколами, базами судебной практики, прежде чем подавать документ в суд. Расчёт на то, что ChatGPT сам выдаст «непробиваемое резюме» без проверки, как ожидал Ааронс, именно та ошибка, за которую его наказали. Разумный минимум для юриста, использующего ИИ в черновике: сверить каждое имя и показание с материалами дела, а не полагаться на правдоподобный вид текста.

Можно ли доверять

Материал ссылается на официальный документ, постановление Верховного суда Нью-Мексико от среды, и приводит прямые цитаты из зала суда со ссылкой на Reuters, включая заявление самого Ааронса для Reuters. Это первичные источники: судебный акт и участник дела, а не анонимные утверждения. Менее подтверждена общая часть материала, наблюдение о том, что подобных случаев становится больше: оно не подкреплено ссылкой на статистику или конкретное исследование, а звучит как обобщение самого издания на фоне трёх перечисленных им же случаев, дела Ааронса, дела двух юридических фирм и дела юристов Майка Линделла.

Риски и подводные камни

Главный риск уже реализовался: в апелляции по делу об убийстве оказались показания несуществующих свидетелей и ложные детали о стрелявшем, это способно повлиять на исход дела, где на кону свобода человека. Ааронс, не единичный случай: судья ранее наказывал две юридические фирмы за вымышленные цитаты в другом деле, а юристов Майка Линделла, за поддельные ИИ-цитаты ещё в одном. Профессиональные последствия для самого Ааронса пока не закрыты: он назвал случившееся «честной ошибкой» и выразил надежду, что дисциплинарная комиссия учтёт это, но подтверждения того, что комиссия уже рассматривает его дело, в материале нет, известна только его собственная надежда на это.

«Адвокат, вы смотрите новости? Слушаете радио? Читаете хоть что-нибудь о происходящем в мире? Потому что проблема юристов, полагающихся на галлюцинации ИИ, это новость на первой полосе каждый божий день.»

— судья Верховного суда Нью-Мексико Шеннон Бейкон