Пока политики догоняют, технобоссы сходятся: нам может остаться лишь десять лет

Дональд Трамп написал в Truth Social, что страхи вокруг искусственного интеллекта — это мистификация, придуманная сторонниками теорий заговора. Под это определение, очевидно, попали и руководители Anthropic с конкурентами: они призывали страны совместно замедлить развитие отрасли, пока не будут найдены способы снизить риски. Выходит, техно-бизнесмены просто фантазёры и оторванные от реальности люди.

По версии Трампа, для безопасности человечества достаточно президента с очень высоким IQ — человека, похожего на него самого. Такой лидер якобы способен перехитрить совокупную мощь всех мировых суперкомпьютеров, указать им границу, и те сами перепрограммируются, чтобы отступить. В каждой сети ИИ будто бы есть встроенный выключатель, который склоняется перед президентом США. Трамп может перенастроить мир одной силой мысли.

Десять лет до катастрофы

Понятно, почему многие специалисты отрасли допускают, что ИИ способен уничтожить человечество в течение 10 лет. Даже сеть со средними способностями, вероятно, решила бы, что оказывает нам услугу. Мир, который способен избрать Трампа президентом, настолько испорчен, что заслуживает прекращения мучений. ИИ остаётся лишь сожалеть, что не может пообещать сделать это раньше десяти лет. Но он постарается.

Возможно, вопрос о Трампе стоит формулировать иначе: прошёл бы он тест Тьюринга? Здесь было бы меньше искусственного интеллекта и больше искусственной глупости. Если запереть его в одной комнате с худшим чат-ботом в мире, отличить одного от другого было бы непросто.

Трамп умеет имитировать речь, но до разума ему далеко. В его выступлениях — бесконечные повторы, перескакивание с темы на тему и отчаянное стремление набрать очки. Всё это без труда запрограммировал бы первокурсник факультета информатики. Возможно, человечество участвует в гонке на уничтожение: оно пытается погубить себя раньше, чем ИИ получит такую возможность.

Ещё неделю назад казалось, что большинство политиков почти ничего не говорили об опасностях ИИ. Это считалось сюжетом из научной фантастики, а обсуждение обычно сводилось к возможным преимуществам технологии. Затем Джейкоб Коксон написал в X, что человечество, возможно, уже стоит на пороге гибели.

Можно было ожидать, что техно-бизнесмены отмахнутся от этого как от запугивания со стороны обиженного бывшего сотрудника. Но почти все они согласились с предупреждением. Даже Джеффри Хинтон, которого часто называют крёстным отцом ИИ, признал, что сценарий гибели человечества в течение 10 лет выглядит реалистичным. Отсчёт начался.

После этого политики стали пытаться догнать технологическую отрасль и изобразить, будто всегда держали ситуацию под контролем. Глобальное вымирание? Ничего особенного. По крайней мере, это несравнимо с тем, что два криптомиллиардера пожертвовали партии Reform £72 млн. Вот где настоящий кризис.

Правительство пытается успокоить страну

Во вторник в программе Today на Radio 4 правительство отправило министра по делам бизнеса Джонатана Рейнольдса успокаивать общественность. Он объяснил, что стране не нужно переходить в режим выживания, собирать овец и переселяться в автономные дома.

По словам Рейнольдса, не стоит впадать в гиперболы. В конце концов, легко увлечься рассуждениями о 10-процентной вероятности вымирания человечества в течение 10 лет.

Люди склонны видеть худшую сторону возможного краха систем здравоохранения и сценария, при котором ИИ найдёт способ спровоцировать ядерную войну. Но впереди, как напоминал министр, оставалось немало возможностей. Никому уже не нужно было откладывать деньги на будущее: будущего всё равно могло не быть.

Для правительства это превращалось в беспроигрышную ситуацию. Кого теперь волновало бы, достигнет ли страна цели НАТО — тратить 3,5% ВВП на оборону к 2035 году? В худшем случае Россия напала бы на Великобританию за год до конца света. Правительство могло бы снизить налоги, занимать сколько угодно и устроить масштабную трату денег: некому было бы расплачиваться с долгами в будущем, если жизнь всё равно скоро закончится. Идеальное забвение.

Знание о скором конце также уменьшало бы тревогу из-за возможного прихода к власти Reform. Небольшая продолжительность жизни помогла бы всем сосредоточиться, расставить приоритеты и взглянуть на события в правильной перспективе. Если подумать, стремление любой ценой оставаться в живых было сильно переоценено.

Рейнольдс призывал спокойно относиться к смерти. К тому же Великобритания, по его словам, оставалась мировым лидером в области безопасности интернета — во многом благодаря Институту безопасности ИИ, созданному при Риши Сунакe.

Проблема с регулированием

У этой безупречной на первый взгляд логики был один недостаток. Регулирование во многом зависело от того, поделятся ли гиганты ИИ своим кодом. Американские и китайские компании пока не показывали, что собираются это делать. Им было выгоднее сохранить конкурентное преимущество, заработать в ближайшие годы неприлично большие деньги, а затем принять последствия, когда их машины выйдут из-под контроля.

К этому моменту ведущий Джастин Уэбб уже не мог скрывать нарастающую панику. Он всегда считал себя одним из бессмертных, но теперь экзистенциальная угроза оказалась прямо перед ним. Уэбб в отчаянии заявил, что человечество будет уничтожено.

Рейнольдс попытался его успокоить: ничего личного здесь нет, это всего лишь ИИ ведёт себя как ИИ.

Но Джастин уже был за пределами спасения. Он спросил, что будет с аварийным выключателем. Джонатан, похоже, не слушал и сам не представлял, как такой механизм должен работать и кому его доверить. Только не Трампу, надеялся ведущий. Оставалось лишь смотреть на светлую сторону жизни — точнее, вспоминать знаменитую песню о том, что даже перед лицом конца нужно сохранять оптимизм.