ИИ как коллективный разум:
куда ведёт эпоха агентных систем

Долгое время разговоры о будущей «сингулярности» ИИ звучали как миф о появлении единственного сверхразума: он станет умнее человека, затем ещё умнее — и так разгонит сам себя до непостижимого уровня. В статье Agentic AI and the next intelligence explosion предлагается другая, куда более приземлённая и при этом тревожно-реалистичная картина. Следующий «взрыв интеллекта», если он происходит, будет ростом сложной социальной системы — множества ИИ-агентов, людей и гибридных «кентавров», которые вместе образуют новый слой коллективного мышления.

Почему идея единого сверхразума может быть ошибкой

Исследователи Google исходят из простой мысли: интеллект не похож на одну шкалу, где можно поставить отметку человеческого уровня, а затем двигаться вверх. Он многомерный и реляционный — зависит от взаимодействий, контекста, языка, институтов, разделения ролей. Более того, «человеческий интеллект» уже давно коллективен: мы мыслим культурой, письменностью, организациями, рынками, правом, наукой.

Поэтому если прошлые крупные скачки интеллекта в истории жизни и общества происходили через новые формы кооперации (а не через апгрейд отдельного индивида), то и нынешний скачок вычислительного интеллекта логичнее искать там же — в социальной организации.

Что меняется прямо сейчас: агентность и внутренние «дебаты» LLM

Самая любопытная часть статьи — попытка посмотреть на рассуждающие модели как на пространство внутренних взаимодействий. Ссылаясь на недавние исследования передовых моделей (DeepSeek-R1 и QwQ-32B), авторы описывают эффект: прирост качества на сложных задачах возникает не просто потому, что модель «думает дольше». Существенную роль играет то, как она думает: внутри цепочки рассуждений самопроизвольно появляются разные перспективы, проверки, вопросы, несогласия и согласования — почти как мини-дискуссия. Это называют society of thought: внутри одной LLM начинает работать нечто, напоминающее мультиагентную систему.

Важно, что такое поведение не «вшито» напрямую. Когда обучение с подкреплением вознаграждает модель за точность, она сама находит более надёжный путь — через внутреннюю полемику и сверку аргументов. Получается неожиданный мост к когнитивной науке и эпистемологии: хорошее рассуждение часто устроено социально, даже если оно протекает «в одной голове».

Проектируемые институты

Сегодня большинство рассуждающих моделей выдаёт единый поток мыслей — как будто у нас есть стенограмма одного собрания, где все реплики идут подряд. Но реальные команды устроены иначе: роли, иерархии, процедуры спора, «адвокат дьявола», независимые проверки, протоколы согласования. Авторы предлагают смотреть на это как на огромное инженерное поле: социальные и организационные науки десятилетиями изучали, какие правила делают группы умнее — и теперь эти знания можно переносить на ИИ-рассуждение и на мультиагентные системы.

На практике это ведёт к идее рекурсивных сообществ агентов: агент может «форкаться», создавать копии под подзадачи, собирать их выводы, а при необходимости запускать внутреннюю society of thought на каждом уровне сложности. Интеллект растёт как город — за счёт специализации и координации, а не за счёт одного «супермозга».

Самый жёсткий вопрос: как этим управлять

Чем больше агентных систем входит в критические сферы — найм, суд, распределение льгот, регулирование рынков, — тем важнее становится управление. И здесь статья делает резкий поворот: традиционное выравнивание в духе RLHF похоже на модель «родитель–ребёнок» и плохо масштабируется, когда агентов миллиарды. Нужен другой уровень — институциональное выравнивание: правила, роли, нормы и протоколы, которые задают рамки поведения так же, как человеческие общества держатся на судах, процедурах, регуляторах и разделении властей.

Отсюда появляется почти «конституционная» логика: ИИ-системы должны сдерживать друг друга, а не регулировать сами себя. Если власть сдерживает власть, то и в мире agentic AI нужны механизмы взаимного надзора — причём встроенные в инфраструктуру, а не добавленные постфактум.

Что в итоге предлагает эта перспектива

Будущее — не про внезапное пробуждение единого сверхразума, а про комбинаторный рост гибридного общества, где люди остаются в контуре, а интеллект усиливается через новые формы кооперации и конфликта. Это не утопия и не антиутопия, а эволюционный сценарий: интеллект становится мощнее по мере того, как мы учимся строить социальную инфраструктуру для него.

И если искать «следующий взрыв интеллекта», то он уже просматривается в трёх местах: во внутренней society of thought у рассужающих моделей, в гибридных воркфлоу, меняющих интеллектуальные профессии, и в зарождающихся сообществах агентов, которые копируются, специализируются и договариваются. Вопрос теперь не только в возможностях, но и в том, сумеем ли мы создать правила и институты, достойные этого нового масштаба.