Верховный суд Нью-Мексико сообщил, что в поданном защитой документе были «ложные показания полностью выдуманных свидетелей». Судьи также заявили, что адвокат продемонстрировал отсутствие раскаяния и заботы о клиенте.
Адвокат Стивен Ааронс в заявлении рассказал, что в прошлом году согласился вести апелляцию обвинительного приговора и использовал ChatGPT для пересказа судебного разбирательства. По его словам, он не понимал, насколько сильно ИИ способен «галлюцинировать» факты.
Ааронс признал, что сожалеет о случившемся, но надеется: дисциплинарная коллегия учтёт, что это была честная ошибка. Он назвал произошедшее уроком для всех специалистов, которые полагаются на мощную, но иногда нестабильную технологию.
OpenAI не сразу ответила на запрос о комментарии.
Санкция суда стала новым эпизодом в растущем числе дел, где судьи штатов и федеральных судов наказывают адвокатов за подачу документов, созданных с помощью ИИ и не прошедших достаточную проверку. Под критику попадали и судьи, использовавшие ИИ.
Десятки адвокатов уже получили взыскания за документы, в которых ИИ придумывал ссылки на судебные дела или неверно цитировал законы. Однако в случае Ааронса система, судя по всему, пошла дальше: в апелляции по уголовному делу появились выдуманные показания свидетелей.
Ааронс — частный адвокат из Санта-Фе. Он представлял Оскара Рене Сандоваля, которого признали виновным в убийстве матери его детей. До вынесения приговора Сандоваль не признал вину, а в прошлом году получил пожизненное заключение.
Апелляция всё ещё рассматривается. 2 сентября её передали государственному защитнику Нью-Мексико Ким Чавес Кук. Кук отказалась от комментариев. Представители местной прокуратуры также не стали комментировать дело.
В прошлом месяце Верховный суд штата потребовал от Ааронса объяснить, как выдуманный материал оказался в основной апелляционной записке. По словам суда, среди него были «вымышленные утверждения о том, что стрелок носил тёмные брюки и белую рубашку».
На слушании 21 августа Ааронс рассказал, что загрузил в ChatGPT расшифровку, созданную компьютером, и другие материалы дела. Он рассчитывал получить «безупречное резюме».
Судьи выразили недоверие к тому, что адвокат не знал о способности ИИ ошибаться. Судья Шеннон Бэкон спросила, смотрит ли он новости, слушает радио или вообще читает о происходящем в мире. По её словам, проблема зависимости адвокатов от галлюцинаций ИИ каждый день появляется на первых полосах.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram