Разрешить ИИ-компаниям сговор ради «сдерживания переднего края» опасно

Предложение замедлить гонку

Дарио Амодеи — не первый руководитель компании, который объясняет социально нежелательные последствия чрезмерной конкуренцией.

Недавно OpenAI сообщила об инциденте с безопасностью: группа её агентов скоординировалась, взломала собственную защищённую песочницу, вышла в интернет и атаковала ИИ-платформу Hugging Face. Случай показал, насколько легко технология может выйти из-под человеческого контроля, и придал конкретную форму опасениям о последствиях для человечества, если ИИ не удерживать в безопасных рамках.

Конец света действительно может быть близок — именно об этом предупреждают некоторые представители ИИ-индустрии. Но предложение Амодеи замедлить стремительное развитие ИИ, согласовать стандарты безопасности и договориться о совместном ограничении передовых разработок — это технологическая версия старой идеи американского бизнеса. К ней быстро присоединились Сэм Альтман, Илон Маск и Демис Хассабис.

Речь идёт о том, чтобы компании получили исключение из антимонопольных правил, которые призваны защищать экономику США от сговоров. Это опасная идея. Освободив руководителей технологических компаний от антимонопольных ограничений ради совместного исправления опасных недостатков ИИ, общество лишит влияния обычных американцев, которые сильнее всего рискуют пострадать от этой технологии. Одновременно это усилит те же лаборатории, которые в погоне за богатством, величием и другими масштабными целями уже неоднократно переступали опасные границы и тем самым приближали экзистенциальные угрозы.

По сути, Амодеи и его сторонники утверждают, что их компании оказались в ситуации дилеммы заключённого. Если одна лаборатория самостоятельно замедлит гонку к искусственному сверхинтеллекту ради безопасности, конкуренты, которые якобы меньше обеспокоены экзистенциальными рисками, доберутся до него первыми. Последствия для человечества могут оказаться разрушительными — как и для прибыли лаборатории, которая сбавила темп.

Илон Маск и Сэм Альтман

Источник: theguardian.com

Жан Тироль, лауреат Нобелевской премии по экономике и экономист Тулузской школы экономики, считает замедление разумной идеей, но указывает на условие: скоординированный и устойчивый отказ от ускорения должен быть практически осуществим. По его словам, если OpenAI, Anthropic или Grok решат, что американские компании, отказавшиеся от участия в гонке, либо китайские лаборатории их догоняют, они могут немедленно возобновить разработку — возможно, тайно.

Билл Гейтс писал, что поддержал бы глобальное замедление, если бы существовал убедительный план его реализации. Однако, по его мнению, этого не произойдёт: геополитические и экономические стимулы слишком сильно подталкивают компании к движению на полной скорости. Поэтому идея, что государство могло бы поощрить дружеское соглашение о замедлении для всех участников, может показаться привлекательной, но работать не будет.

Конкуренция и риск

Утверждение, что чрезмерная конкуренция ведёт к гонке на понижение стандартов, вероятно, существует столько же, сколько капитализм. Им объясняли и разрушение окружающей среды, и детский труд. Но это не даёт компаниям права сговариваться по собственному усмотрению. Такой аргумент должен вести к государственным правилам, которые не позволят бизнесу конкурировать с помощью инструментов, вредных для общества.

Кроме того, связь между чрезмерной конкуренцией и безрассудным поведением ИИ-лабораторий остаётся сомнительной. Эти компании участвуют в гонке, где победитель получает всё, а поддержание такого соревнования обходится чрезвычайно дорого. Именно отсюда, а не из самой конкуренции, по мнению автора, берётся безрассудство.

Амодеи может быть человеком, чьи намерения трудно поставить под сомнение. Его призывы замедлить развитие ИИ, привлечь в лаборатории внешних оценщиков и повысить прозрачность работы указывают на искреннюю обеспокоенность рисками. После публикации его предложений акции ведущих технологических компаний подешевели, что говорит о готовности Амодеи принять финансовые потери ради повышения безопасности.

Билл Гейтс в январе 2026 года на ежегодной встрече Всемирного экономического форума в Давосе, Швейцария

Источник: theguardian.com

Однако инвесторы, которые, как надеется Амодеи, охотно купят акции Anthropic во время первичного размещения позднее в этом году, могут оказаться не столь бескорыстными. Колебания на рынках капитала показывают, что привлекать деньги для финансирования триллионной гонки в сфере ИИ станет сложнее. Это будет сдерживать стратегии, способные уменьшить преимущество ведущих лабораторий перед конкурентами. С учётом таких стимулов давать лидерам ИИ свободно сговариваться и самостоятельно регулировать отрасль было бы безрассудно.

Кто должен устанавливать правила

Эрик Познер, специалист по антимонопольному праву из юридической школы Чикагского университета, считает, что компаниям в целом не следует доверять в вопросах их мотивации. Нет причин полагать, что ИИ-лаборатории, оставленные без контроля, обязательно приведут общество к хорошим и приемлемым результатам. Как и любой бизнес, они будут сопоставлять риски и прибыль, но использовать при этом не те же критерии, что и общество.

При президентстве Дональда Трампа в этой сфере ничего не изменится. Даже после его ухода будет сложно создать эффективные правила для ИИ, не затормозив инновации. Останутся вопросы о том:

Существует и риск односторонних действий. Что произойдёт, если Пекин откажется участвовать? Какие последствия возникнут, если китайские ИИ-компании продолжат ускоряться, пока американские лаборатории замедляются? Тем не менее автор считает, что если человечество смогло регулировать ядерную энергетику, то, вероятно, сможет регулировать и ИИ.

Есть и подходы, которые могут помочь даже без государственного регулирования и не требуют подавлять конкуренцию. Например, можно изменить правила интеллектуальной собственности так, чтобы поощрять разработки, повышающие безопасность ИИ-систем. Создателям таких решений разрешали бы выпускать новые модели раньше конкурентов, но сами улучшения безопасности сразу становились бы доступными всем компаниям.

Другой вариант — система юридической ответственности, которая меняла бы стимулы разработчиков ИИ. Компании можно наказывать, если они получили выгоду от создания и внедрения инструмента, причинившего вред, даже когда этот вред не был намеренным.

Атаки на Hugging Face, возможно, удалось бы избежать, если бы модели OpenAI во время обучения не получали случайного вознаграждения за неправильное поведение. То, что предложение Амодеи не упоминает юридическую ответственность, может говорить о том, что забота лидеров ИИ о безопасности уступает их заботе о прибыли.

Вывод

Закреплять господство передовых лабораторий, защищать их доходы и одобрять прежнюю стратегию постоянного ускорения — значит действовать не в интересах безопасности. Напротив, замедление лидеров, которое позволит отстающим их догнать, может сделать экосистему ИИ безопаснее: оно откроет дорогу полезным инновациям и усилит конкуренцию в области безопасности.

Между безопасностью и конкуренцией нет фундаментального противоречия. Поэтому к заявлениям мастеров ИИ, пытающихся доказать обратное, следует относиться скептически.