Подросток, готовивший теракт в Сиднее, рассказал суду, что радикализировался онлайн и использовал ИИ для планирования атаки

Подросток, обозначенный в суде псевдонимом RK, признал вину в подготовке или планировании террористического акта. Судья Стивен Кэмпбелл отметил, что у него не было конкретного плана нападения и он не приобрёл материалов для изготовления бомбы.

Как менялся контент

По словам RK, сначала он смотрел в TikTok исторические видео с политической тематикой — о крестоносцах и их империях. Затем перешёл к роликам о событиях 11 сентября 2001 года, последовавшей за ними войне с терроризмом и другим войнам. Позже он стал смотреть видео на религиозные темы, которые привели его к контенту с растущим уровнем насилия, а затем обсуждать эти темы с людьми в интернете.

RK сказал, что хотел произвести на них впечатление. Вскоре его внимание привлек Сиднейский оперный театр как возможное место нападения. Он описывал себя как радикализованного и «промытого пропагандой», когда начал смотреть на YouTube ролики об изготовлении бомб. Однако, по оценке Кэмпбелла, конкретных планов у подростка не было.

В Telegram RK искал инструкции по изготовлению бомбы в скороварке. Он также пытался связаться по электронной почте с Джохаром Царнаевым, выжившим исполнителем теракта на Бостонском марафоне.

Как он использовал ChatGPT

Подросток спрашивал ChatGPT о Царнаеве и о том, есть ли у заключённых доступ к новостям. Затем он написал в тюрьму по общедоступному адресу электронной почты, чтобы узнать, сможет ли отправить письмо Царнаеву. До самого Царнаева RK так и не дозвонился и письма ему не отправил, сообщил Кэмпбелл.

RK также задавал ChatGPT вопросы об охране Сиднейского оперного театра, где финиширует Сиднейский марафон, и о местах заключения террористов в Новом Южном Уэльсе. Он смотрел на YouTube видео об оперном театре и изучал гей-клубы и другие места, где, по его выражению, собираются «неверные».

В Telegram подросток пересылал другим видео «Исламского государства», чтобы получить одобрение: Кэмпбелл отметил, что RK считал это «крутым». OpenAI, Telegram и YouTube попросили прокомментировать ситуацию. TikTok отказалась от комментариев.

Суд оценил раскаяние подростка

Позже RK выразил раскаяние. По словам судьи, он прошёл шесть занятий по религиозным и этическим вопросам у мусульманского священнослужителя. Кэмпбелл счёл, что подросток искренне отказался от приверженности исламскому насильственному экстремизму. Судья добавил, что радикализация была ограниченной и неуверенной, а процесс дерадикализации уже продвинулся далеко.

О трудностях выявления радикализации подростков в интернете в прошлом месяце заявила заместитель генерального директора службы разведывательного обеспечения Австралийской организации безопасности и разведки (ASIO) Клэр Макгиннесс. Она выступала перед парламентским расследованием.

По словам Макгиннесс, процесс часто начинается незаметно: подросток листает Instagram, TikTok или похожую платформу и натыкается, например, на политический мем или религиозно-консервативное видео. Сначала контент может быть просто маргинальным и близким к экстремистскому, но после взаимодействия с ним алгоритм меняет ленту: материалы становятся радикальнее и начинают иметь значение для безопасности.

Затем подростки нередко переходят в Discord или Telegram. Там, по словам Макгиннесс, «чёрный юмор и провокационные мемы» постепенно приучают их к всё более экстремальному контенту. Пассивный просмотр может перейти в активный поиск способов совершить насилие.

По оценке Dataist, эта история показывает, как онлайн-радикализация может соединить рекомендации соцсетей, закрытые платформы и поиск практических сведений, в том числе с помощью чат-бота. При этом суд указал, что у RK не было конкретного плана и материалов для изготовления бомбы, а сам он отказался от экстремистских взглядов.