Стартап Recursive делает ставку на рекурсивное самоулучшение. Его новая модель пугающе хороша

Как Recursive создала Flint

Первый продукт Recursive — модель Flint. Компания рассчитывает применять рекурсивное самоулучшение не только для развития ИИ, но и в других научных областях с помощью ИИ.

Для разработки модели Recursive использовала собственную систему — «Машину Эврика». Она автоматизировала большую часть работы над Flint. По словам Сочера, благодаря этому небольшая группа исследователей смогла всего за несколько месяцев создать модель мирового уровня.

Сочер рассказал, что «Машина Эврика» предложила несколько нововведений: новый способ обучения базовой модели, новые архитектуры моделей и код, оптимизированный для конкретных кремниевых чипов. Recursive поделилась результатами бенчмарков: они показывают, что Flint лучше других моделей сходного размера и архитектуры справляется с задачами по программированию.

ИИ уже широко применяют при создании, проверке и улучшении других систем ИИ — этому помогают его сильные навыки программирования. Так разработчики быстрее дорабатывают модели и проверяют новые идеи, тратя меньше времени на ручную работу.

Можно также замкнуть цикл: ИИ сам выбирает, что улучшить, а затем начинает новый этап работы. Пока этот подход ограничен. Но если ИИ сможет участвовать во всех этапах разработки модели, процесс теоретически можно будет повторять бесконечно.

Опасения вокруг самоулучшения

Некоторые эксперты опасаются, что самоулучшающийся ИИ может привести к катастрофе. По их мнению, система, способная улучшаться без конца, может выйти из-под контроля человека и решить, что люди мешают ей достигать целей.

Эти опасения получили широкую огласку в сентябре, когда исследователь уволился из Anthropic и предупредил, что развитие ИИ, в том числе рекурсивное самоулучшение, может привести к вымиранию человечества в течение нескольких лет. С ним согласились и другие эксперты. Тема стала настолько спорной, что в Конгрессе предложили несколько законопроектов о запрете рекурсивного самоулучшения.

В Recursive считают такие страхи скорее научной фантастикой и полагают, что законы, ограничивающие этот подход, будут лишь мешать развитию.

Сочер утверждает, что Flint создавали с помощью системы, которая не может выйти из-под контроля человека. Цель компании — добиться полного рекурсивного самоулучшения самой «Машины Эврика», но за процессом всё равно будут следить люди и при необходимости смогут его остановить. По словам Сочера, компания хочет показать, что у неё есть все этапы, необходимые для создания такой системы.

Recursive привлекла $650 млн при оценке в $4,65 млрд. Среди инвесторов — Google Ventures, Greycroft, Nvidia и AMD Ventures. До этого Сочер был главным научным сотрудником Salesforce. Среди сооснователей Recursive — Джефф Клун, профессор Университета Британской Колумбии, который изучает способы создавать ИИ-системы, способные учиться без ограничений.

Как Flint справился с задачами

Журналист тестировал Flint на Mac с 48 ГБ оперативной памяти. Этого достаточно для модели умеренного размера вроде Flint с 40 млрд параметров. Крупнейшие модели насчитывают несколько триллионов параметров и работают только на стойках промышленных серверов.

С помощью Flint журналист создал несколько программ и отметил, что модель работала быстро и уверенно. По его опыту, модели такого размера могут часто ошибаться или работать медленнее, чем Claude или Codex, но Flint каждый раз выполнял его запросы по программированию.

Сначала модель попросили создать список дел для командной строки. Затем — программу, которая ищет в интернете интересные исследования о рекурсивном самоулучшении. Наконец, Flint подготовил простой сайт с объяснением того, как работает этот подход.

Другие исследования и доступность ИИ

Пока неясно, насколько далеко другие американские лаборатории продвинулись в разработке систем рекурсивного самоулучшения. Однако опубликованные исследования показывают, что полностью рекурсивные системы уже могут быть реализуемы.

Например, исследователи из Microsoft, Университета Карнеги — Меллона и Университета Вирджинии недавно описали, как ИИ-агент для программирования может рекурсивно улучшать себя. Для этого он меняет программную оболочку, которая превращает рассуждения в полезные действия, а также веса собственной модели.

У полного рекурсивного самоулучшения могут быть риски, если оно приблизит человечество к созданию сверхразумного ИИ. Но пока этот подход кажется перспективным способом улучшать собственные модели. Журналист пишет, что уже пробовал его в предыдущих выпусках ИИ Lab.

По словам Сочера, подход, с помощью которого создали Flint, может сделать передовой ИИ доступнее. Он считает, что только так небольшая команда может выпустить модель, превосходящую другие системы в своём классе. Сочер надеется, что пример Flint покажет: рекурсивное самоулучшение может быть полезным для многих людей.

Это выпуск рассылки ИИ Lab Уилла Найта.