«Серьёзный провал»: прокурор сослалась в Высоком суде на вымышленное дело после поиска с помощью ИИ

Несуществующий прецедент

Равиндер Дхиллон, представляющая Королевскую прокурорскую службу (CPS), сослалась на полностью вымышленное дело в споре о том, следует ли привлекать мальчика к уголовной ответственности за изнасилование младшей сестры. Об этом стало известно из судебных документов.

Два старших судьи Высокого суда назвали объяснение того, как прокурор использовала несуществующий прецедент, «неудовлетворительным». Эксперт по ИИ и праву назвал случившееся «серьёзным провалом». По сведениям The Guardian, ссылка появилась в ответе ИИ, сгенерированном во время поиска в интернете.

Этот случай пополнил число инцидентов, в которых ошибки, связанные с ИИ, повлияли на судебные разбирательства в этом году. Таких случаев — уже десятки. Чаще всего ошибались люди без юридической квалификации, которые представляли себя сами; многие инциденты произошли в трудовых трибуналах.

Это лишь второй известный случай с участием CPS — главного государственного органа, ведущего уголовные преследования в Англии и Уэльсе. В феврале служба признала, что один из её юристов сослался на несуществующие правовые источники в деле об экстрадиции двух румын, осуждённых за мелкие правонарушения. Вероятной причиной тогда тоже назвали ИИ. Поддельные дела обнаружили, когда адвокаты противоположной стороны не смогли найти их следов. CPS заключила, что «риск повторения низок».

В последнем деле адвокаты мальчика оспаривали решение CPS о преследовании. На момент предполагаемого изнасилования сестры ему было 11 лет, а ей — семь. Адвокаты утверждали, что прокуроры не учли доводы социальных работников, специалистов по работе с молодёжью и судебного психолога.

Дхиллон — старший прокурор подразделения CPS по делам об изнасилованиях и других тяжких сексуальных преступлениях — выступала за уголовное преследование мальчика. В своих подробных доводах она сослалась на дело CPS – R v J [2024] EWCA Crim 3529. Оказалось, что такого дела не существует.

Решение о преследовании Дхиллон приняла в апреле; его подтвердил главный прокурор Короны. В октябре она признала, что ошибочно указала несуществующую судебную ссылку. По её словам, она имела в виду совсем другое решение — настоящее, вынесенное 15 годами ранее.

Брайан Фланаган, доцент права Университета Мейнута в Ирландии, изучающий применение ИИ судьями, назвал произошедшее серьёзным провалом: вымышленный источник использовали, чтобы обосновать уголовное преследование ребёнка. По его словам, это ставит под вопрос доверие к правовой системе, где судебные решения считаются важными и должны быть подлинными. Фланаган добавил, что ИИ повышает риск появления таких ошибок, поскольку позволяет сэкономить время. Ошибка любого специалиста серьёзна, но когда специалист работает на государство, последствия особенно значимы из-за огромных полномочий государства.

Высокий суд заявил, что ссылка CPS на вымышленное дело не повлияла на исход оспаривания решения продолжить преследование мальчика. Рассмотрение его дела в суде по делам несовершеннолетних назначено на конец этой недели.

Предупреждения суда и ответ CPS

В июне 2025 года Высокий суд отреагировал на случаи галлюцинаций ИИ в разбирательствах по жилищным и банковским делам. Суд призвал Совет адвокатуры и Юридическое общество срочно рассмотреть меры против этой проблемы.

Дама Виктория Шарп, занимавшая тогда пост председателя отделения Королевской скамьи, предупредила о «серьёзных последствиях для отправления правосудия и доверия общества к судебной системе», если ИИ используют неправильно. По её словам, юристам, злоупотребляющим ИИ, могут грозить санкции: от публичного порицания до разбирательства за неуважение к суду и передачи дела полиции.

На просьбу прокомментировать ситуацию CPS ответила, что у службы строгие правила применения ИИ: его нельзя использовать для принятия юридических решений, а точность результатов должны проверять люди.

Представитель CPS сообщил, что служба установила: ошибка возникла при юридическом поиске в интернете.

По его словам, как только ошибку обнаружили, её исправили и провели внутреннюю проверку, чтобы выяснить, как это произошло, и убедиться, что другие дела не затронуты. После оперативной проверки служба передала сотрудникам выводы, в том числе напомнила, что судебные решения следует цитировать по надёжным юридическим источникам.

Как стало известно, поиск в интернете выдал сводку, созданную ИИ, с деталями вымышленного дела.

101 случай в британском реестре

Последний инцидент довёл число записей в британском реестре ошибок, связанных с ИИ, до 101. Реестр ведёт Мэттью Ли, адвокат коллегии Даути-стрит. В него входят подтверждённые, предполагаемые и спорные ошибки, а также связанные с ними ложные ссылки на судебные решения. Ли считает, что зафиксированные случаи могут быть лишь «верхушкой айсберга»: многие решения судов низшей инстанции никогда не публикуются.

Он также указал на риски для конфиденциальности при использовании ИИ CPS, учитывая, с какой чувствительной информацией работает служба. Кроме того, по его словам, ИИ добавляет адвокатам работы: им приходится проверять подлинность судебных решений, указанных в материалах дела, при подготовке которых мог использоваться ИИ.