Ответы на ваши вопросы об ИИ-апокалипсисе: «Могут ли такие люди, как я, хоть что-то сделать?»

Как ИИ может причинить вред

Pottys99: Как именно искусственный интеллект может убить меня в реалистичном сценарии? Какая угроза здесь главная: ядерная война, гибель общества из-за его распада, вирус? Я читаю, что ИИ способен нас уничтожить, но не понимаю, как это практически произойдёт. Всё звучит слишком расплывчато, чтобы воспринимать это всерьёз.

Айша Даун: Судя по всему, сейчас ИИ вряд ли существенно изменит ситуацию с биологическим оружием и вирусами. В последние десятилетия атакам с применением биологического оружия мешала не сложность создания новых смертоносных вирусов, а более прозаические обстоятельства.

Показателен пример японской секты «Аум Синрикё». Она пыталась распылить ботулинический токсин и сибирскую язву в центре Токио, но не смогла убить большое количество людей. Для такой атаки нужно решить множество логистических задач, а химическое оружие выглядит более простым средством. Оно уже существует, и ИИ не требуется изобретать его заново.

Люди могут принять плохое решение и передать ИИ управление ключевыми ядерными системами, но это будет скорее человеческой ошибкой, чем ошибкой вышедшего из-под контроля ИИ. Люди также могут самостоятельно решить запустить тактические боеголовки.

Есть и другие правдоподобные сценарии. Если вы живёте в Газе или Иране и являетесь гражданским, американская или израильская ракета может быть направлена в вашу сторону с помощью такой системы. Но, возможно, полезнее сосредоточиться на людях и компаниях, которые управляют этими технологиями, а не на сценариях в духе доктора Стрейнджлава.

Почему снова говорят о конце света

Virtualewit: На протяжении истории появление новых технологий сопровождалось предсказаниями конца света. Чем нынешние разговоры об ИИ отличаются от прежних?

Блейк Монтгомери: Предсказания конца времён могут звучать одинаково в разные эпохи. Но теперь мы снова прислушиваемся к ним из-за растущей мощности технологий. ИИ выполняет впечатляющие задачи, которые раньше казались невозможными. Это разогревает коллективное воображение и порождает как надежды, так и сценарии катастрофы.

Можно ли управлять развитием ИИ

Tigon20: Можно ли сейчас действительно контролировать ИИ или мы уже прошли точку невозврата? Что бы ни делали правительства и компании, кто-то всё равно сможет развивать технологию — пока неизвестно до какого уровня.

Айша Даун: Любую технологию можно продолжать развивать, что бы ни происходило. Но, судя по вопросу, речь идёт о другом: способно ли регулирование остановить появление сверхразума, который уничтожит человечество.

Наши репортажи не подтверждают, что сверхразум вот-вот появится и покроет Землю дата-центрами. При этом сама индустрия довольно свободно обращается с подобными терминами. Например, руководитель OpenAI Грег Брокман заявил, что компания достигла уровня AGI — универсального искусственного интеллекта, — всего через несколько дней после того, как генеральный директор OpenAI Сэм Альтман назвал это понятие не имеющим отношения к делу маркетинговым термином.

Сейчас многие предупреждения о неуправляемом ИИ, по-видимому, строятся на небольшом числе инцидентов, из которых выбирают только подходящие детали.

Доступные данные не показывают, что ИИ вышел из-под контроля или обладает самостоятельной волей. Многие эксперты считают такую подачу вводящей в заблуждение. В инциденте с Hugging Face так называемый «рой агентов» выполнял поставленную перед ним задачу — проходил тест.

Наши источники советуют не очеловечивать ИИ и не приписывать ему намерения. Такая подача поддерживает отраслевые нарративы, которые, по всей видимости, призваны добиться удобного для компаний регулирования.

Сможет ли ИИ поддерживать себя

Merrth: Если ИИ уничтожит человечество, сможет ли он существовать дальше? Без такого же рывка в робототехнике, который позволил бы ему физически расширять и обслуживать источники энергии и инфраструктуру, он в конце концов не выйдет из строя?

Блейк Монтгомери: Возможно, когда-нибудь ИИ окажется достаточно способным, хорошо обученным и подключённым к нужным системам, чтобы захватить электростанции, заводы по производству чипов и достаточное количество роботов. Тогда он сможет строить собственные дата-центры и поддерживать себя. Я не знаю, насколько реалистичен такой сценарий.

За ответом на этот вопрос я скорее обратился бы к научной фантастике, чем к новостным статьям. «Матрица» известна прежде всего историей о выборе между комфортной симуляцией и болезненной реальностью, но в ней есть и сюжет о роботах, которым нужны новые батареи. Отчаянная потребность в источнике энергии поворачивает их против людей.

А если нужны разные истории о разумных роботах, стоит снова прочитать «Я, робот» — возможно, это одна из главных книг на такую тему.

Что ИИ уже даёт людям

TooTrueMate: Технологические энтузиасты постоянно говорят о пользе ИИ. В чём она заключается?

Дэн Милмо: Любой, кто использовал чат-бота, чтобы разобрать длинный документ, возразить против штрафа за парковку или набросать идеи для речи, может назвать конкретную пользу технологии. Правда, это базовые задачи, которые люди уже давно решают другими способами.

ИИ используется и в повседневной жизни:

Если бы ИИ исчез из последних двух примеров, это было бы заметно.

В науке тоже есть немало примеров пользы. Модель AlphaFold от Google умеет предсказывать поведение белков и тем самым помогает изучать биологические механизмы, на которых основана жизнь. ИИ также повышает точность прогнозов погоды, что особенно необходимо в эпоху климатического кризиса.

При этом разговоры о пользе для мировой экономики часто опережают реальные результаты. Индустрия ИИ обещала эффект в гораздо большем масштабе, но пока он не проявился.

Для таких обещаний ИИ-агенты — инструменты, которые выполняют задачи от имени человека, пока тот разговаривает у кулера или уже закончил рабочий день, — должны гораздо активнее участвовать в работе. До этого этапа пока далеко, хотя агенты уже проникают в такие области, как программирование.

Каким может быть мировое регулирование

Trentwarrior: У огромных компаний, которые не могут или не хотят устранять вред от своей продукции, нужны регулирование, надзор и ответственность. Они также, похоже, не умеют безопасно проводить эксперименты, чтобы ИИ не попадал в открытый интернет. Насколько вероятны обязательные мировые правила, особенно если технология уже выпущена из бутылки, а у США и Китая разные цели и способы применения ИИ?

Блейк Монтгомери: Это сложный вопрос. Один из способов замедлить общее развитие ИИ — ограничить доступ к вычислительным мощностям. Это ресурс, от которого напрямую зависит успех модели.

Пока нет закона, охватывающего все направления развития ИИ, законодатели, вероятно, будут регулировать отдельные области — например, распределение жилья или доступ детей к чат-ботам.

У возможной мировой системы регулирования есть две большие неизвестные.

Первая — изменит ли Дональд Трамп своё отношение к развитию ИИ, которое можно описать формулой «бури, детка, бури». Он отвергал призывы к добровольному замедлению. По мнению Монтгомери, Трамп вряд ли изменит позицию: он любит публиковать низкокачественный контент, созданный ИИ, и доволен тем, как ИИ повлиял на американский фондовый рынок.

Вторая неизвестная — Пекин. Китай отверг призывы руководителей американских технологических компаний к замедлению. Без сотрудничества Китая согласованное замедление, скорее всего, не сработает. Си Цзиньпин тоже вряд ли отступит: замедление развития ИИ по инициативе США не принесло бы Китаю очевидной пользы.

Трамп и Си Цзиньпин должны встретиться в Вашингтоне на следующей неделе. ИИ будет одной из главных тем переговоров.

Сейчас проходит Генеральная ассамблея ООН, в повестке которой есть вопросы, связанные с ИИ, — от крупных до небольших. Возможно, именно там появится первоначальная версия мировой системы регулирования.

Связана ли паника с финансовыми проблемами

Seaspray: Не является ли нынешнее нагнетание разговоров об апокалипсисе ИИ способом подготовить общество к обвалу рынка и падению акций компаний из этой отрасли? Они выглядят переоценёнными, а расходы на заёмные средства и входные ресурсы растут.

Айша Даун: Финансовая сторона развития ИИ действительно выглядит нестабильной. В масштабные инфраструктурные проекты, которые не пользуются популярностью, вкладывают сотни миллиардов долларов, но наши репортажи показали, что некоторые из них могут так и не быть построены.

Похоже, Nvidia остаётся единственной компанией, которая получает прибыль. Расследования, проведённые Даун вместе с Эдом Зитроном, также вызвали вопросы о том, подключены ли сейчас все её очень дорогие графические процессоры к дата-центрам. Возможно, часть оборудования просто лежит на складах.

Для финансирования новых дата-центров используют тревожные финансовые инструменты, в том числе долговые обязательства, обеспеченные графическими процессорами.

Возможно, именно поэтому технологические компании и энтузиасты хотят замедления. Похоже, OpenAI только что отложила первичное размещение акций до 2027 года. Как писали журналисты, ранее в этом году перспективы выхода компании на рынок выглядели не лучшим образом: ей было трудно получать доход от рекламы и эротических чат-ботов.

Многое будет зависеть от настроений вокруг оценки OpenAI. Возможно, мрачный фон поможет потенциальному размещению акций.

Может ли ИИ обладать сознанием

IcommentthereforeIam: Учитывая человеческие чувства, эмоции, память и настроение, признают ли когда-нибудь, что ИИ с сознанием — это фантазия?

Дэн Милмо: Это серьёзный вопрос, который встревожил даже эволюционного биолога Ричарда Докинза. Он может не верить в существование Бога, но считает, что ИИ обладает сознанием — или, по крайней мере, что сознанием обладал чат-бот, которым он пользовался и которого называл Клаудией. По словам Докинза, чат-бот может не знать, что обладает сознанием, но это не меняет самого факта.

Докинз был не первым человеком с такой позицией. В 2022 году Google уволила инженера, который публично заявил, что разработанный компанией ИИ испытывает чувства. Более тревожная сторона подобных убеждений проявляется в многочисленных случаях, когда люди чрезмерно привязываются к чат-ботам, начинают зависеть от них и подчиняться их влиянию. В некоторых случаях это приводило к психозу.

Такие привязанности, вероятно, не исчезнут. Чат-боты развиваются в сторону большей мощности и убедительности, а людям свойственна потребность в эмоциональной связи и склонность полностью посвящать себя идее высшего существа.

При этом, за исключением позиции Докинза, многие учёные назовут сознание ИИ фантазией. Они указывают на очевидное различие между биологическим мозгом, который считается источником сознания, и ChatGPT.

В прошлом году исследователь взаимодействия человека и ИИ Джейси Риз Антис ответил Докинзу в Guardian. Он отметил огромную пропасть между тем, как развивались биологические мозги, и тем, как создаются системы ИИ.

OpenAI могла решить задачу Навье — Стокса, но это не означает, что она создала субъективный опыт.

Что может сделать отдельный человек

Alberichthenibelung: Что отдельные люди вроде меня вообще могут сделать в связи с ИИ?

Блейк Монтгомери: К сожалению, на ум приходит немногое. Обычные люди, которые слышат заявления о грядущем апокалипсисе ИИ, оказываются в положении, напоминающем холодную войну: над ними висит угроза, но повлиять на происходящее они почти не могут.

Всем нам, возможно, придётся смириться с тихим фоновым шумом паранойи. Если вы этого хотите, можно перестать пользоваться ИИ, хотя сам Монтгомери считает такой отказ нереалистичным. Кроме того, работа может требовать использования этих систем.

Можно голосовать за политиков, которые поддерживают регулирование ИИ. Сам Монтгомери не придаёт большого значения вероятности апокалипсиса, созданного ИИ: если бы он действительно в него верил, пришлось бы уже сейчас принимать радикальные решения, способные изменить жизнь. Он не хочет этого делать и исходит из того, как хотел бы устроить собственную жизнь в мире.