Сценарии катастрофы
ИИ напоминает книгу в жанре «выбери своё приключение», где любой вариант заканчивается плохо. Можно открыть страницу 37 и увидеть взрывной рост выбросов углерода и экологический коллапс. Среди других возможных исходов:
Представить, что Elon Musk, глава OpenAI Sam Altman, Peter Thiel из Palantir и технологический советник администрации Trump Marc Andreessen приведут мир к утопии с экологическим процветанием, социальной гармонией и бесконечным досугом, можно только при настолько сильных галлюцинациях и подхалимстве, что такую книгу мог бы написать лишь ChatGPT.
Растёт запоздалое понимание того, что мир движется к катастрофе. Поэтому звучат призывы замедлить развитие ИИ, ввести регулирование или поставить отрасль на паузу, пока общество не осмыслит происходящее. Об этом говорят не только активисты, но и политики, эксперты и представители крупных технологических компаний — от Bernie Sanders до Bill Gates. Недавно Gates написал, что, вероятно, поддержал бы убедительный глобальный план замедления развития ИИ. Ранее этим летом компания Anthropic также призвала установить «педаль тормоза».
Самоограничение индустрии не сработает. Если пауза и будет, её придётся навязать извне.
Международное соглашение при этом маловероятно. ИИ развивается по логике, похожей на гонку ядерных вооружений: каждому участнику выгодно продолжать её, поскольку никто не хочет оказаться во власти победителя. Наиболее реалистичный способ замедлить процесс — найти узкое место, которое контролирует один игрок и который готов перекрыть его. У ЕС есть такой рычаг, а также собственный интерес им воспользоваться.
Что производит ASML
Голландская технологическая компания ASML — самая дорогая компания Европы. Она выпускает установки для фотолитографии в экстремальном ультрафиолете, или EUV. На них основано производство наиболее передовых чипов, поэтому они становятся одним из немногих узких мест всей отрасли ИИ.
ASML освоила сложную технологию и цепочку поставок, необходимые для выпуска установок стоимостью $400 млн каждая. Они наносят узоры на кремний, фокусируя свет до длины волны 13,5 нанометра — примерно одной десятитысячной толщины человеческого волоса. Без машин ASML не будет чипов, а без чипов не появятся новые центры обработки данных.
Речь идёт о планах тайваньского производителя чипов TSMC вложить $265 млрд в будущие фабрики, а также о мировом строительстве центров обработки данных на $7 трлн к 2030 году — главным образом в США. Если центров обработки данных с нынешними и следующими поколениями чипов станет недостаточно, экспоненциальный рост возможностей и рисков ИИ остановится.
Именно поэтому правительство США вводит для ASML экспортные ограничения, действующие за пределами американской юрисдикции, и не позволяет поставлять самые передовые EUV-установки в Китай. Цель — замедлить развитие китайского производства передовых чипов.
Эти ограничения одновременно показали уязвимость самих США. Европа зависит от американских финансовых и программных сервисов, которые со временем можно воспроизвести, а будущее всей чиповой техники полностью зависит от ASML. Прямой запрет на экспорт её машин фактически заставил бы мировую отрасль ИИ топтаться на месте.
Дефицит чипов и замедление развития ИИ дали бы регуляторам время догнать технологию, законодателям — обновить нормы от авторского права до налогообложения, а обществу — провести полноценное обсуждение роли ИИ в жизни людей.
Зачем это Евросоюзу
Почему ЕС пошёл бы на такой шаг? Причина может быть не только гуманистической, но и прагматичной. В лучшем сценарии полный запрет перестроил бы цепочку поставок и передал больше важных решений под юрисдикцию ЕС — единственного игрока, который показал готовность широко регулировать ИИ.
Этот сценарий маловероятен. США могут ответить, перекрыв ASML доступ к поставщикам из своей страны. Но даже в таком случае ЕС мог бы счесть конфликт выгодным с точки зрения узких экономических и геополитических интересов: он перестал бы относительно отставать в разработке моделей ИИ и в вычислительных мощностях, необходимых для их работы.
Европейские сторонники развития ИИ тоже признают значение ASML, хотя их беспокоит прежде всего отставание ЕС, а не широкий спектр рисков технологии. Проект Europe 2031 — это технополитический прогноз группы отраслевых экспертов о будущем ЕС в ситуации, где ИИ радикально меняет экономику, а Европа сильно уступает США.
Авторы считают, что Европе нужно вложить сотни миллиардов в гонку ИИ, пока передовые модели и вычислительные мощности не превратились в такие же недосягаемые активы, какими сегодня являются TSMC и ASML.
В их сценарии в ближайшем будущем ЕС придётся предложить доступ к ASML в обмен на доступ к моделям и вычислительным ресурсам под контролем США, от которых начнут зависеть экономика и безопасность Европы. К тому моменту преимущество ASML может ослабнуть: чем больше её EUV-установок отправляется за рубеж, тем больше фабрик строится в других странах и тем больше времени получают Китай и США для копирования технологии.
Единственный рычаг
Теоретики ядерного оружия опасаются, что в критической ситуации государства могут решиться на запуск по принципу «используй или потеряешь». Та же логика применима к единственному инструменту, который способен остановить стремительное развитие отрасли ИИ: ЕС может использовать рычаг, который даёт ему ASML сегодня, или окончательно упустить такую возможность.
Разные группы приходят к одному выводу: у Европы есть одна карта, и её нужно разыграть. Вместо продолжения гонки следует остановить её — сейчас и для всех.
Alexander Hurst пишет для Guardian Europe из Парижа. Его мемуары Generation Desperation уже вышли.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ, роботах и метавселенных и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram