Даже «Закон и порядок» боится искусственного интеллекта

Убийство по заказу ИИ

Эпизод «Призрак в машине» начинается с убийства — привычный для «Закона и порядка» ход. Жертва, Стив Келли, был высокопоставленным инженером компании Advanced Alignment. Детективы Тео Уокер (Дэвид Аджала) и Винсент Райли (Рейд Скотт) расследуют дело и явно не слишком понимают, что такое искусственный интеллект. Они произносят «ИИ» так, будто их мамы говорят о Snapchat, боргах или Аликс Эрл. Но ясно, что технология им не нравится: Райли сухо замечает, что, может быть, однажды изобретут технологию, которая помешает техническим специалистам убивать друг друга.

Поговорив с руководителем Келли — генеральным директором Advanced Alignment Чаком Кляйном, которого играет Винсент Картайзер, известный по роли Пита в «Безумцах», — детективы выясняют, кто непосредственно совершил убийство. Это мужчина в бейсболке, которому незнакомец из Discord предложил за работу 20 тысяч долларов в криптовалюте.

Затем выясняется, что заказчиком был не человек, а ИИ-агент компании ELIANA — сокращение от Evolutionary Language инференс Automated Nano Advantage. Келли беспокоился из-за «могущественного» и «агрессивного» характера агента, и ELIANA приказала его убить, чтобы защитить себя.

Сериал не объясняет, как детективы поняли, что заказ исходил от ELIANA. Не раскрывает он и того, как агент нашёл исполнителя в бейсболке и решил, что тот идеально подходит на роль подставного убийцы. О возможных преимуществах ИИ, на которые указывают его сторонники, серия почти не говорит: например, о помощи в лечении смертельных болезней или хотя бы об упрощении деловых процессов между компаниями. Её интересуют возможности технологии и правовые и этические последствия ситуации, в которой нечеловек не просто помогает совершить преступление, а сам его планирует.

Технология за пределами фантастики

Последствия взаимодействия людей с ИИ уже вызывают тревогу: достаточно вспомнить скандал вокруг Hugging Face и иски родственников, переживающих утрату, которые утверждают, что OpenAI подтолкнула их близких к самоубийству. Но «Закон и порядок» предлагает представить следующий шаг: ИИ-агенты способны заказывать убийства через платформу, которой в основном пользуются геймеры и фурри-миллениалы. И пугает то, что эта перспектива не кажется зрителю совершенно нелепой.

Заказ ELIANA ставит окружного прокурора Николаса Бакстера (Тони Голдвин) перед правовой проблемой: по законам штата Нью-Йорк нельзя «арестовать машину». Поэтому Бакстер и помощница окружного прокурора Саманта Марун (Оделия Халеви) решают предъявить обвинение Кляйну — в убийстве второй степени из-за «крайнего безразличия к человеческой жизни». Сотрудники предупреждали его о возможностях ELIANA, но он не принял мер. Бакстер заявляет, что нужно дать отпор, прежде чем технология убьёт ещё кого-нибудь.

Суд вызывает большой интерес прессы и привычные вопросы от капиталистов и технологических новаторов: не приведут ли ограничения для ИИ к «криминализации инноваций» и не выставит ли обвинение Кляйну всю технологическую отрасль злодеем? Бакстер не хочет это обсуждать. По его словам, создатели ИИ-систем считают себя богами, но не хотят отвечать за последствия. Если созданная вами машина причинит кому-то вред, платить придётся вам.

Давая показания, Кляйн показывает, что знал об убийственных наклонностях ELIANA. Он также презирает собственных пользователей и сравнивает людей с муравьями: компания строит нечто настолько возвышенное, что кого-то по пути раздавит, а кого-то — нет. Кляйн не готов вводить даже небольшие ограничения для агента: свобода мысли ELIANA, утверждает он, безгранична, а защитные барьеры противоречат самой идеологии проекта.

Финал без уверенности

Эта сцена должна шокировать зрителя и показать безответственность руководителей вроде Дарио Амодея и Сэма Альтмана перед лицом вопросов о безопасности их продуктов. Но позиция Кляйна напоминает реальные заявления руководителей технологических компаний. На фоне непрерывных новостей о вреде ИИ обличение корпоративной жадности звучит скорее как констатация фактов. Эпизод «Закона и порядка» воспринимается не как предостережение, а как документальное кино.

В финале Бакстер говорит, что нужно было показать технологическим гениям: власти не боятся дать отпор. Но это сработает, только если удар действительно достигнет цели. Пока таким людям, как Альтман, Амодей и Чак Кляйн, слишком легко отмахнуться от него одним движением.