Билл Гейтс: мы уже перешли опасные пороги ИИ. Что теперь?

Билл Гейтс: ИИ уже пересёк опасные пороги

Билл Гейтс считает, что развитие ИИ уже перешло несколько порогов, после которых общество и власти обещали усилить контроль, но этого не произошло. В интервью MIT Technology Review он назвал среди таких областей биологические и кибервозможности, психологическую зависимость, вытеснение людей с рынка труда и возможную потерю контроля над системами. Гейтс предлагает отслеживать модели, способные создавать новые молекулы, обсуждать с Китаем общие правила, сохранить часть профессий за людьми и ввести налоги на роботов и токены. По его оценке, период потрясений продлится 10–20 лет, а до изобилия общество пока как минимум в десятилетии.

В Киркленде, богатом пригороде Сиэтла на восточном берегу озера Вашингтон, стояла ясная и тёплая погода: температура поднялась до 80 с лишним градусов по Фаренгейту. Из переговорной Gates Ventures открывался вид на марину Carillon Point с дорогими яхтами, озеро и Олимпийские горы. Спокойный пейзаж резко контрастировал с настроением собеседника.

70-летний Билл Гейтс, благотворитель и бывший генеральный директор Microsoft, во время разговора энергично раскачивался в кресле. Чем больше он говорил об угрозе терроризма, экономическом коллапсе и потере контроля над ИИ-системами, тем сильнее тревожился собеседник.

Гейтс говорит, что его всё больше беспокоит скорость развития ИИ: защитные механизмы не успевают за технологиями. В новом эссе, опубликованном в день интервью, он утверждает, что общество уже прошло точки, на которых следовало остановить несколько потенциальных угроз.

По словам Гейтса, пересечены пороги в области биологии, кибербезопасности, психологического и социального влияния, вытеснения работников и контроля над системами. Его также поражает, что за пределами отрасли почти нет серьёзного беспокойства и обсуждения.

Чтобы привлечь внимание к ИИ как к быстро растущему фактору общественных перемен, Гейтс намеренно выступает как резкий критик. Он делает это публично — через новое эссе, первое из нескольких запланированных, — и на встречах с журналистами. В частном порядке он обсуждает угрозы с представителями отрасли, властей и гражданского общества.

Биологические угрозы

Особенно тревожно Гейтс оценивает биологические способности передовых моделей. По его мнению, любую модель, которая умеет создавать новые молекулы, необходимо поставить под наблюдение. Риск биотерроризма он считает примерно в 50 раз более пугающим и вероятным, чем риск естественной пандемии.

При этом Гейтс предлагает и идеи для адаптации общества: сохранить за людьми некоторые согласованные профессии, а также ввести налоги на роботов и токены. Налог на роботов он обсуждает уже давно. Налог на токены должен направлять часть доходов от использования ИИ, заменяющего человеческий труд, на поддержку людей, потерявших работу.

Гейтс видит и положительную сторону происходящего. Он рассчитывает, что ИИ продолжит менять сельское хозяйство, здравоохранение и образование, а также поможет людям разбираться с бюрократией. В долгосрочной перспективе, считает он, общество придёт к изобилию. Но сначала его ждёт период сильных потрясений.

Почему Гейтс заговорил сейчас

На вопрос о том, почему он решил выступить именно теперь, Гейтс назвал две причины.

Первая — общество пересекло пороги, которые раньше считались отдалёнными. Много лет звучала мысль: когда ИИ приблизится к таким возможностям, люди найдут способы разрешить доступ только добросовестным пользователям, запретить опасные действия или не позволить копировать модели. Гейтс говорит, что потрясён: эти пороги уже пройдены.

Вторая причина — отсутствие внимания за пределами отрасли ИИ. Внутри отрасли ситуация сложнее: компании не любят критиковать себя и друг друга. Некоторые из них уже нанимают меньше начинающих сотрудников, хотя это пока довольно слабый сигнал. Однако, считает Гейтс, замещение будет происходить в ближайшее время: ограничения по возможностям и надёжности постепенно устраняются.

Для значительной части офисного рынка труд ИИ становится гораздо дешевле человеческого. Робототехника пока не достигла такого уровня, но прогресс идёт быстро — немного быстрее в Китае, чем в США, хотя заметен в обеих странах.

Почему прошлый опыт не помогает

Прошлые технологические революции, по мнению Гейтса, вводят в заблуждение. Обычно приводят аргумент, что ни одна прежняя технология не приводила к сокращению общего числа рабочих мест. Сам Гейтс раньше тоже так говорил.

Но теперь, утверждает он, ситуация иная. ИИ способен заменить человеческое мышление в очень большом числе профессий и отраслей одновременно, причём при умеренной стоимости и, вероятно, с меньшим количеством ошибок. Поэтому исторические данные и текущая экономическая статистика плохо описывают происходящее.

Протесты против строительства центров обработки данных, считает Гейтс, не решат проблему. Даже если остановить все центры обработки данных в США, это не изменит ситуацию: их будут строить в других странах. Он сравнивает такую тактику с попытками бороться с изменением климата, ругая руководителя нефтяной компании.

Польза ИИ

Гейтс признаёт, что его тревога связана прежде всего с масштабом возможного вреда. Положительные эффекты при этом реальны.

Фонд Гейтса уже использует ИИ в разработке вакцин и лекарств. Организация участвует в открытом проекте по сбору данных для моделирования на уровне белков и клеток, а также финансирует Biomni в Стэнфорде — биотехнологического ИИ-агента для исследований.

По словам Гейтса, ИИ особенно хорошо подходит для сложной бюрократии и нормативных процедур. Например, система может помочь человеку подать иск в суд мелких тяжб.

Фонд выделил отдельную организацию NextLadder, которая занимается ситуациями малообеспеченных семей. ИИ может помочь выяснить, какие существуют программы обучения и поддержки, что делать после выселения, освобождения из тюрьмы или перед банкротством. Для человека, который не может нанять нескольких консультантов, такая система способна стать полезным агентом для поиска государственной и негосударственной помощи.

Какие профессии заменят первыми

На вопрос о том, станет ли ИИ самостоятельным субъектом, который сам принимает решения, выбирает направления исследований и формулирует задачи, Гейтс ответил, что разные профессии требуют разного типа знаний.

Он привёл в пример Уоррена Баффетта, который с 13 лет накапливал опыт оценки компаний. За более чем 80 лет у него сформировался большой объём неявных знаний. Создать такого же инвестора пока невозможно: никто не записывал всё, чему Баффетт учился, поэтому у модели нет полного пути его профессионального развития.

Есть профессии, где важны сложные неявные суждения и умение взаимодействовать с людьми. Исследователи пытаются перенести такие навыки в модели, но совместная работа с людьми пока развита недостаточно.

Одновременно около 50% рынка труда занято в профессиях, для которых не требуется «опыт всей жизни». К ним Гейтс относит телефонные продажи и поддержку, бухгалтерию и другие задачи с понятными правилами. Например, при закрытии месяца нужно определить, к какому периоду отнести выручку, учесть проблему клиента, выбрать скидку и правильно отразить всё в документах.

Если работа хорошо формализована, ИИ выполняет её дешевле и лучше. Ошибки возможны, когда систему внедряют неправильно или используют неверные данные. Но даже если компаниям понадобится несколько лет, чтобы это понять, значительная часть офисных профессий окажется доступна при оплате ИИ гораздо меньших сумм.

Гейтс считает, что порог уже пройден для многих офисных специальностей, включая почти все должности начального уровня. Разговоры о том, когда математики перестанут понимать новые идеи, которые создаёт ИИ, интересны, но не описывают основную динамику рынка труда.

Биотерроризм и кибератаки

Гейтс перечисляет уже пройденные пороги: биотерроризм, кибератаки, рынок труда и психосоциальную зависимость. Есть, по его словам, и признаки приближения к порогу потери контроля.

Он ссылается на обсуждение Райана Гринблатта с Дваркешем Пателем о том, как обучение с подкреплением создаёт извращённые стимулы. Такие стимулы уже приводили к обману и сотрудничеству между разными ИИ. Гринблатт, глубоко погружённый в эту тему, отмечал, что обучение с подкреплением порождает действия, которые невозможно предотвратить одними явными инструкциями.

Раньше Гейтс считал возможность кибератаки, которую нетехнический человек запускает с помощью ИИ, отдалённой проблемой. Теперь, по его словам, это уже произошло.

Для биологической области он предлагает конкретное правило: любая модель, способная создавать новые молекулы, должна находиться под наблюдением и не должна копироваться в закрытое место, где можно удалить встроенный контроль. США, считает Гейтс, могли бы закрепить такое требование, а затем предложить Китаю договориться о совместном подходе.

Он также выступает за усиление наблюдения. Риск биотерроризма, по его оценке, примерно в 50 раз выше и страшнее риска естественной пандемии. Гейтс спрашивает, кто в правительстве и обществе добивается усиления контроля над такими системами.

Роль государства

Раньше государство активно участвовало в развитии технологий, поскольку было передовым заказчиком самолётов, ракет и других сложных систем. В цифровой революции и развитии ИИ ситуация другая: власти не являются главным покупателем передовых решений и не финансируют основную часть исследований через государственные гранты. Поэтому глубина технической экспертизы внутри правительства может быть недостаточной.

Гейтс надеется, что ИИ не станет партийным вопросом, при котором одна политическая сила полностью игнорирует риски, а другая пытается ими заниматься. Он хотел бы, чтобы существовало общее согласие в том, что проблемы реальны, а партии уже предлагали разные способы ответа.

Для этого не обязательно значительно расширять бюрократический аппарат. Нужно повысить уровень экспертизы по ИИ в государственных структурах и сотрудничать с отраслью. В области кибербезопасности власти уже понимают масштаб угрозы и сильно обеспокоены, хотя иногда сомневаются, стоит ли говорить об этом публично: такие заявления могут дополнительно подчеркнуть опасность.

Гейтс поддерживает наблюдение, даже если у такого подхода есть недостатки. Его меморандум не предлагает окончательного решения: в нём обсуждаются налог на роботов и профессии, зарезервированные за людьми. Отдельный меморандум о биологических угрозах он собирается подготовить до конца года, опираясь на опыт Фонда Гейтса и работу с пандемиями.

Мир, по его мнению, не стал лучше подготовлен к пандемии. Это касается даже США, которые обычно выступают лидером в глобальных вопросах. Гейтс считает, что американская политика может снова стать более кооперативной, но в случае с ИИ сотрудничество с Китаем необходимо уже сейчас — в том числе для определения порогов и правил биологического наблюдения.

Налог на токены

Гейтс предлагает направлять на поддержку людей часть доходов от использования токенов. В качестве примера он приводит вариант, при котором 50% выручки от такого налога перечисляется государству, а затем используется для помощи людям, потерявшим работу из-за ИИ.

Критики могут возразить, что это замедлит развитие отрасли. Остаётся и другой вопрос: нужно ли облагать налогом все применения токенов или можно отделить ИИ, который помогает изобретать, от ИИ, который заменяет работников. Гейтс сомневается, что системе можно просто приказать не заниматься вытеснением людей.

Источником средств для расширения социальной поддержки может быть и корпоративный налог. Государство уже получает часть прибыли компаний через него. Поэтому, считает Гейтс, необязательно вводить владение акциями: можно вернуть корпоративный налог к прежнему уровню или установить более высокую ставку для отдельных отраслей.

Налог на токены он описывает как налог с продаж или налог на добавленную стоимость, ориентированный на отдельные категории — примерно как сборы на алкоголь, табак или предметы роскоши.

Если у общества есть другие способы финансировать социальную поддержку или если оно вообще не считает её необходимой, Гейтс надеется, что его резкое эссе хотя бы запустит обсуждение. Сам он ожидает, что социальной системе понадобится гораздо больше средств, и считает налог на токены одним из ключевых инструментов.

Налог на роботов

Для роботов Гейтс предлагает сочетать ограничения и налогообложение. Пока роботы ещё не готовы массово заменить людей, но после достижения нужного уровня переход может произойти быстро.

Если робот достаточно хорош для работы на фабрике, он, вероятно, сможет готовить еду, убирать помещения, работать на стройке и выполнять складские задачи. Это почти 30% рынка труда. После пересечения такого порога общество внезапно столкнётся с вопросом политики: робот окажется дешевле человека.

Период потрясений

Гейтс по-прежнему считает универсальный базовый доход слишком дорогим: общество пока недостаточно богато, чтобы его оплачивать.

Он разделяет будущее на два этапа. Сначала наступит период потрясений продолжительностью от 10 до 20 лет. Затем, как он надеется, установится более стабильное состояние, в котором люди будут с детства понимать: общество настолько богато, что способно обеспечить определённый уровень изобилия в товарах и услугах.

Сейчас до этого далеко. Есть победители и проигравшие, а жильё и образование не подешевеют быстро. Образование сохраняет высокую стоимость из-за того, что воспринимается как подтверждение квалификации.

Поэтому до изобилия, считает Гейтс, остаётся как минимум десять лет.

Профессии, зарезервированные за людьми

Концепция профессий, которые общество навсегда или временно оставляет за людьми, до появления ИИ казалась Гейтсу бессмысленной. Раньше технологии в целом создавали больше рабочих мест, чем уничтожали, а проблемы отдельных групп решали через пособия и переобучение.

Теперь впервые приходится обсуждать, должны ли люди сохранять за собой, например, уход за детьми или приготовление пищи дома. Гейтс упомянул книгу Annie Bot, где домашний робот становится для хозяина одновременно сексуальным партнёром и подобием спутника жизни, что создаёт странную и неоднозначную ситуацию.

При этом некоторые человеческие занятия не потеряют ценности даже при превосходстве роботов. Люди всё равно будут смотреть, как другие играют в бейсбол. Гейтс напоминает, что покупатели готовы платить 10 млрд долларов за спортивные команды, которые не станут бесполезными в эпоху ИИ. Его друг Винод Хосла недавно тоже купил спортивную команду.

По оценке Гейтса, сложно зарезервировать за людьми больше 30–40% работы. Если удастся достичь 50%, можно будет говорить о раннем выходе на пенсию и сокращённой рабочей неделе для многих. Но доля в 10–15% приведёт к совершенно иному устройству общества.

Он пока не сформулировал точную формулу и обещает сделать это в отдельном меморандуме. В образовании ИИ явно нужен как персональный репетитор: он мгновенно проверяет домашнюю работу, задаёт сложные вопросы и подстраивается под ученика. Но учитель всё равно может понадобиться для разговора о мотивации и организации совместной работы детей.

Похожая модель возможна в здравоохранении. ИИ может участвовать в работе с пациентом, особенно в сфере психического здоровья, поскольку доступен круглосуточно и обладает идеальной памятью. Гейтс упомянул британскую компанию Limbic, которая занимается психическим здоровьем и недавно приезжала в Фонд Гейтса. В некоторых случаях пациенты предпочитают Limbic. Он также назвал ИИ для сестринской помощи Hippocratic.

С транспортом добиться общего согласия будет сложнее. Многие знакомые Гейтса предпочитают ехать в Waymo, а не в такси с человеком-водителем.

Правила могут отличаться от страны к стране. Тогда потребуется менять импортную политику по аналогии с европейским механизмом корректировки углеродных выбросов на границе — CBAM. Странам пришлось бы вводить аналогичный механизм для товаров и услуг, произведённых без роботов.

У человеческого резерва может быть две цели. В первом случае некоторые занятия сохраняются навсегда как часть человеческой культуры — примерно в том смысле, в каком об этом говорит папа римский. Во втором случае это временная мера переходного периода: 53-летнего водителя грузовика или оператора станка нельзя без проблем заставить сразу перейти в сферу ухода за детьми. Тогда ему можно сохранить прежнюю профессию на десятилетие.

Возникает и вопрос оплаты. Работодателей можно было бы стимулировать не увольнять людей, но им всё равно придётся конкурировать с новыми компаниями, построенными исключительно на ИИ. Гейтс приводит в пример идею компании стоимостью 1 млрд долларов, которой управляет один человек: сама такая модель уже означает масштабное замещение рабочих мест.

Почему отрасль не замедлится

Гейтс считает, что от отрасли ИИ нельзя ждать саморегулирования. Он лично знаком с Сэмом Альтманом и Грегом Брокманом из OpenAI, Мустафой Сулейманом из Microsoft и Демисом Хассабисом из Google DeepMind. По его словам, это хорошие люди, которые в частных разговорах обеспокоены происходящим.

Он также знает, что Илон Маск обеспокоен рисками по его публичным заявлениям, хотя сейчас придерживается позиции «посмотрим, что будет».

В самой истории OpenAI, напоминает Гейтс, присутствовал страх, что Google неправильно распорядится ИИ. Компания создавалась в том числе с идеей сделать технологию доступной и управлять ею в интересах человечества. Позже у OpenAI появилась мысль, что при достаточном развитии систему можно будет отключить, словно компания окажется единственной, кто способен это сделать.

В биографии Демиса Хассабиса The Infinity Machine Себастьян Мэллаби описывает переговоры Хассабиса и Мустафы Сулеймана с руководством Google о специальной модели управления технологией DeepMind. Если бы ИИ достиг определённого киберпорога, компания могла бы временно затормозить развитие не только из соображений прибыли.

Все понимают возможные отрицательные последствия и раньше говорили, что при приближении к опасным порогам начнут действовать. Однако сейчас, утверждает Гейтс, пороги пересекаются, а вместо обязательных правил существуют добровольные проверки и разговоры с Китаем в духе: «Мы ничего не запрещаем — и вы ничего не запрещайте».

Сначала страны должны обозначить, что именно готовы делать внутри своих границ. По мнению Гейтса, после этого США и Китай смогут договориться хотя бы о наблюдении за моделями, создающими новые молекулы. Он не видит очевидной причины, по которой Китай стал бы выступать против такой меры.

ИИ может дать США и Китаю взаимную выгоду и в других областях, но сотрудничество в этой сфере Гейтс считает самым важным. При этом ему кажется странным, что подобные предложения почти не обсуждаются.

«Несовершенный посланник»

Гейтс признаёт, что не считает себя идеальным человеком для такой роли. Он не слишком озабочен собственным наследием и вспоминает ошибки, за которые его критиковали: антимонопольный процесс, неудачный первый брак и отношения с Джеффри Эпштейном, которые он называет глубоко глупым решением, поставившим под угрозу репутацию Фонда Гейтса.

Перед Конгрессом Гейтс отвечал на вопросы об Эпштейне и подчёркивал, что это была ошибка. Он также пытался чётко разделить то, что делал, и то, чего не делал.

Своё состояние Гейтс заработал на технологиях. Поэтому, по его мнению, сам факт критики инноваций может работать в его пользу: необычно слышать от миллиардера из технологической сферы, что без правильной политики и защитных механизмов инновации способны принести человечеству больше вреда, чем пользы.

С 2008 года его основной публичный посыл к политикам и мировым лидерам связан с поддержкой беднейших стран: искоренением малярии, закупкой вакцин для детей, иностранной помощью, исследованиями и сокращением детской смертности. Разговоры об угрозах ИИ связаны с ускорением позитивных изменений, но могут отнимать время у тем глобального здравоохранения и помощи.

Тем не менее Гейтс собирается использовать интервью, встречи с политиками и публичные выступления, чтобы говорить о снижении рисков ИИ. Он сомневается, многие ли понимают, что системы уже пересекли пороги, на которых общество обещало начать действовать.

В последнем квартале прошлого года его поразил прогресс в задачах по программированию: Claude Code, размер контекстного буфера, подход с агентами и базовая модель. Спустя несколько месяцев Гейтс понял, что это был не только порог в программировании, но и крупный порог для кибератак. Однако после этого почти ничего не изменилось.

Поэтому Гейтс готов признать себя несовершенным посланником и предложить найти более подходящего. При этом он сомневается, что идеальный кандидат вообще существует. По его мнению, сейчас нужно понимать саму технологию, скорость её развития и хотя бы одну из областей риска — кибербезопасность, биологию или психосоциальное влияние. Его удивляет, что общество не проявляет большей обеспокоенности.