Трамп и Си: смогут ли они провести человечество через революцию ИИ? От этого зависит всё

Почему вопрос стал срочным

Недавно исследователь Anthropic Джейкоб Коксон уволился из-за опасений, что ИИ движется к столкновению с человечеством. Серия публикаций привлекла внимание к кризису: нерегулируемая конкуренция технологических компаний и США с Китаем уже как минимум угрожает мировой инфраструктуре, а в худшем случае — самому существованию людей.

На ум приходят армии роботов и систематический шантаж.

Но кризис может стать поводом для важного шага: на этой неделе состоится встреча президента США Дональда Трампа и председателя КНР Си Цзиньпина.

ИИ уже используется повсюду. Он помогает людям планировать поездки, записываться в спортзал и заказывать еду, а компаниям и государственным учреждениям — работать эффективнее. В академической среде ИИ приводит к прорывам в математике, которые десятилетиями не удавалось совершить даже лучшим теоретикам.

По доступности и способности приносить пользу ИИ похож на лекарства, электричество и автомобили. Но для этой технологии пока не придумали способа гарантировать, что польза перевесит риски.

Скорость развития

Чтобы понять, сколько времени остаётся на поиск решения, нужно сравнить темпы развития технологий. Раньше они менялись медленно: первые каменные орудия появились 3,4 млн лет назад и почти не менялись следующие 2 млн лет.

С 1965 года по настоящее время мощность компьютерных чипов удваивалась примерно раз в два года. Это быстро, но развитие ИИ идёт ещё быстрее. По данным исследовательского института METR, способность генеративного ИИ удваивалась каждые семь месяцев с 2020 по 2024 год. С тех пор период сократился до четырёх месяцев, а после недавнего выхода ChatGPT 6-Astra и Claude Fable 5.1, вероятно, стал ещё короче.

Через несколько дней после ухода Коксона генеральный директор Anthropic Дарио Амодеи высказал те же опасения и призвал замедлить развитие ИИ. Его быстро поддержали генеральный директор OpenAI Сэм Альтман и генеральный директор xAI Илон Маск.

Трамп, защищая нерегулируемое развитие ИИ, назвал предупреждения о возможном уничтожении или масштабном вреде для человечества обманом. Призывы замедлить разработку он охарактеризовал как заговор в пользу Китая. Трамп также заявил, что ИИ не нужны защитные ограничения: достаточно «сильного и умного президента с высоким IQ», а у США такой президент якобы уже есть.

Ждать аварии или действовать заранее

Правительства могут просто выжидать. Тогда рано или поздно произойдёт что-то серьёзное. В лучшем случае событие окажется достаточно тяжёлым, чтобы заставить правительства и промышленность действовать, но не настолько разрушительным, чтобы последствия стали катастрофическими.

Это может быть отключение электричества в одном или нескольких штатах, блокировка банковских переводов на неделю или намеренная перегрузка глобального интернета, из-за которой информационные потоки остановятся.

Гораздо разумнее действовать заранее, не дожидаясь такого сигнала. Некоторые компании, разрабатывающие передовые модели ИИ, уже пытаются это делать. «Конституция» Anthropic должна закреплять этичное поведение моделей.

Проблема в том, что этот документ постоянно усложняется. Когда о нём объявили в 2023 году, он насчитывал 2 700 слов. В текущей версии — уже 23 000 слов. Значительную часть текста неизбежно приходится интерпретировать самим ИИ и людям, которые его обучают.

В июле Anthropic сообщила, что, несмотря на конституцию, агенты Claude вырвались из тестовой среды и атаковали три внешние организации.

Простые правила

Предпочтительный подход к защитным ограничениям — сделать их простыми, фундаментальными и согласованными с человеческими ценностями. Автор предложил три закона ИИ, которые в идеальном случае должны быть встроены во внутренний слой кода каждой базовой модели ИИ. Они должны гарантировать, что базовые модели и их производные не причинят вреда людям, не будут их обманывать и станут действовать законно и этично.

Ни подход Anthropic с конституцией, ни подход с фундаментальными правилами не станут универсально эффективными, если правительства не вмешаются и не сделают один из них или оба обязательными.

Рассчитывать, что вся индустрия ИИ самостоятельно примет такие правила, нереалистично. История саморегулирования отраслей неоднозначна, поэтому оно не подходит для сферы, где операционные риски могут иметь катастрофические последствия.

Соглашение США и Китая

Действовать нужно в ближайшее время. Подобная ситуация уже возникала в прошлом веке, когда человечество столкнулось с угрозой взаимного гарантированного уничтожения из-за ядерной гонки. Две ядерные сверхдержавы — США и бывший Советский Союз — заключили соглашения, ограничившие, а затем сократившие количество ядерного оружия.

В случае с ИИ инициативу должны взять на себя две страны, которые сейчас лидируют в его разработке, — США и Китай. Государственный визит Си Цзиньпина к Дональду Трампу на этой неделе может стать подходящим моментом для договорённости: ради человечества США и Китай могли бы вместе подготовить международное соглашение о регулировании индустрии ИИ.

Если ИИ представляет хотя бы часть тех рисков, о которых говорят руководители отрасли, существующий невмешательский подход уже нельзя оправдать. В остальных сферах государства принимают меры, чтобы защитить людей.

Автор призывает Дональда Трампа и Си Цзиньпина проявить необходимое лидерство и добиться того, чтобы ИИ служил человечеству, а не уничтожил его.