Мужчину арестовали после того, как он рассказал Claude о планах устроить стрельбу в детском саду

Согласно документам, на которые ссылались прокуроры, Тэкрей написал Claude, что хочет «прямо сейчас пойти в местный Westfield и расстрелять местный детский сад». Неясно, каким образом Интерпол получил доступ к его чатам и передавала ли их международной полицейской организации Anthropic.

Кроме угроз нападения на детский сад, в переписке, как сообщается, обсуждался Навид Акрам — предполагаемый террорист, которого обвиняют в убийстве 15 человек на праздновании Хануки на пляже Бонди в Сиднее в декабре 2025 года.

По данным Sydney Morning Herald, в суде прокуроры заявили, что Тэкрей собирался начать убивать людей в Сиднее, как предполагаемый террорист в Бонди. По их словам, переписка с чат-ботом помогает понять, что он замышлял.

Адвокат Тэкрея утверждал, что его подзащитный лишь выплеснул эмоции: тот был напряжён и раздражён из-за ушной инфекции, а его словам не следовало придавать значения. Защита также заявила, что Тэкрей считал переписку личной. Как сообщает Sydney Morning Herald, мужчину направят на психиатрическую экспертизу.

Чат-боты и угрозы насилия

Чат-боты всё чаще становятся собеседниками людей, переживающих опасные заблуждения, навязчивые идеи или расстройства мышления. Длительное общение с чат-ботами связывали с преступлениями, включая убийство с последующим самоубийством и несколько массовых расстрелов. Среди них — стрельба в Университете штата Флорида в 2025 году и массовое убийство в школе в Тумблер-Ридж, Британская Колумбия, в феврале этого года. Поддержку у всегда доступных и склонных соглашаться ИИ-чат-ботов находили также преследователи и люди с параноидальными, навязчивыми и другими тревожными идеями.

В отрасли нет общего правила, которое определяло бы, когда компания, занимающаяся ИИ, должна сообщать правоохранительным органам о содержании переписки с чат-ботом — или должна ли вообще это делать. Такие беседы часто бывают очень личными и откровенными. Передача переписки местным властям может привести к чрезмерному вмешательству и нарушению приватности.

Но по мере того как чат-боты всё глубже входят в повседневную жизнь, переписки с ними могут дать властям важные сведения для предотвращения насилия. Особенно это касается людей, которые могут готовиться к нападению и воспринимают чат-бота как доступное место, где можно без осуждения высказать свои мысли.