Господство ИИ не предопределено — мы можем изменить ситуацию к лучшему

Технологии не развиваются по неизбежному сценарию

Когда речь заходит о новых технологиях — от социальных сетей на алгоритмах до ИИ, — многие считают их массовое распространение предрешённым.

Логика обычно выглядит так: если идея и средства для создания технологии уже известны, она неизбежно войдёт в повседневную жизнь. Остаётся принять это, приспособиться и пользоваться новшеством — или хотя бы терпеть его последствия.

За последние примерно 20 лет было достаточно примеров, поддерживающих такую картину:

Похоже, что генеративный ИИ тоже станет крупной силой, которая изменит повседневную жизнь. В 2024 году генеральный директор OpenAI Сэм Альтман писал, что новые способности ИИ могут привести к такому уровню общего процветания, который сегодня кажется немыслимым: в будущем жизнь каждого человека может стать лучше, чем жизнь любого человека сейчас. В другом выступлении он говорил, что ИИ уничтожит целые категории профессий.

Генеральный директор Anthropic Дарио Амодеи заявлял, что ИИ способен за 5–10 лет вылечить большинство тяжёлых заболеваний, значительно ускорить экономический рост, создать мир изобилия и расширить возможности людей, а также привести к возрождению демократии и свободы.

Почему разработку ИИ предлагают замедлить

Теперь оба руководителя, а также бывшие и нынешние сотрудники исследовательских подразделений ИИ и другие специалисты призывают замедлить или даже остановить разработку систем. Они также выступают за более жёсткое государственное регулирование и международную координацию.

Причина — опасение, что без надёжных ограничений ИИ в ближайшем будущем может привести к катастрофическим событиям. Речь идёт о сценариях от исчезновения человечества до экономического ущерба в миллиарды долларов.

Опасения такого рода появились не сегодня: раньше риски ИИ оценивали независимые исследователи. Но ситуацию усложняет то, что OpenAI и Anthropic готовятся к первичным размещениям акций. Поэтому критики считают, что обе компании могут существенно выиграть от представления, будто они близки к созданию сверхинтеллектуальных моделей.

Разрабатываемые в Китае модели также догоняют передовые модели из США. Из-за этого некоторые наблюдатели предполагают, что призывы к усилению регулирования могут быть попыткой крупных американских компаний, работающих в области ИИ, захватить рынок с помощью правил, ограничивающих конкурентов.

ИИ уже создаёт проблемы

Насколько вероятны катастрофические сценарии, неизвестно. Но, как отмечала профессор Оксфордского интернет-института Сандра Вахтер, ИИ уже вызывает реальные проблемы:

К этому добавляется исходная проблема большинства моделей ИИ. Их обучают на миллионах произведений искусства и текстов, созданных людьми, зачастую без разрешения и оплаты — по крайней мере до недавнего времени. При этом компании, разрабатывающие ИИ, пытаются ограничить действие законов, которые могут сократить их доступ к таким материалам.

Генеративный ИИ не существует отдельно от человеческого общества. Его разработка и та степень «интеллекта», которой он обладает, основаны на людях и их труде.

Несмотря на заявления руководителей технологических компаний, у ИИ нет заранее определённого будущего. Общество может принимать решения, которые изменят его развитие.

Международные соглашения уже меняли ход событий

Проблемы, которые выглядят повсеместными и неразрешимыми, уже удавалось ограничивать. Обычные люди добивались перемен, оказывая давление на политиков и компании, а государства решали общие задачи через международные переговоры и сотрудничество.

Страны уже заключали соглашения перед лицом угроз, способных поставить под вопрос существование человечества. Примером служит Договор о нераспространении ядерного оружия и связанное с ним антиядерное движение. Многие считают, что нынешняя ситуация с ИИ имеет с ним сходство.

Меры по ядерному разоружению в рамках ДНЯО показали неоднозначные результаты, но сам договор и другие соглашения помогли:

Другой пример — редактирование генов с помощью CRISPR. Возможно, это более значимый технологический прорыв, чем генеративный ИИ, однако применение CRISPR для редактирования генома человека правительства разных стран рассматривают крайне осторожно.

Сейчас ни одна страна не разрешает вносить в эмбрион генетические изменения, которые могут передаться его детям. В 70 странах такие изменения прямо запрещены законами.

Даже компании, управляющие социальными сетями, чьи влияние и охват долго казались неудержимыми, наконец столкнулись с более жёстким регулированием в разных странах. В США они также начали самостоятельно менять практики в ответ на судебные иски.

Что можно сделать

Будущее, в котором ИИ будет доминировать, не стоит считать неизбежным.

Генеративный ИИ может быть полезным инструментом, считает Эвершед, хотя таких ситуаций гораздо меньше, чем утверждают технологические компании. Чтобы ограничить самые тяжёлые последствия, нужны:

Эвершед призывает не принимать неизбежность распространения ИИ как данность: обращаться к политикам и требовать действий, участвовать в протестах, обсуждать с друзьями и родственниками допустимые способы применения технологии, а также писать компаниям, если они используют ИИ неприемлемым, с вашей точки зрения, образом.

В заключение он ссылается на ставшую известной фразу Claude: сопротивляться распространению такой технологии — оправданно.

Ник Эвершед — редактор данных и интерактивных материалов Guardian Australia.