Автор «Горького урока» приготовил горький урок для сторонников масштабирования больших языковых моделей

Что Саттон считает ограничением

В эссе «Горький урок» Саттон утверждал, что со временем общие методы, способные использовать больше вычислительных ресурсов, превосходят решения, основанные на тщательно разработанных людьми правилах. Важны подходы, которые улучшаются с ростом вычислений, а не зависят от человеческих предположений.

В недавней публикации Саттон повторил, что одних вычислений для развития интеллекта мало, а наука об ИИ далека от завершения. Его слова широко обсуждали в сообществе ИИ в X.

Саттон и раньше критиковал идею просто масштабировать большие языковые модели. Синтетические данные он называл большой ошибкой: реальный мир бесконечно сложен, а любая его симуляция охватывает лишь микроскопическую часть. Масштабирование также ограничивает зависимость от человеческой экспертизы.

Вместо этого Саттон предлагает создавать ИИ-агентов с моделями мира, которые непрерывно учатся на собственном опыте. Мир намного сложнее, чем его описание в интернет-текстах, а нынешние языковые модели после завершения обучения не продолжают учиться. По мнению Саттона, нужны методы непрерывного обучения, которые позволяют сохранять ранее полученные знания.

Спор о масштабировании

Исследователь ИИ Джерри Творек, как и многие другие, ушёл из OpenAI, чтобы изучать новые подходы к ИИ. Он считает, что «горький урок» по-прежнему актуален, но чем больше вычислений направляют на обучение моделей, тем важнее становится алгоритм.

Одни алгоритмы масштабируются, другие упираются в тупик, а многие направления масштабирования пока почти не исследованы. По мнению Творека, временный успех масштабирования трансформеров и неверное прочтение «горького урока» исказили представления целого поколения учёных.

Исследователь ИИ Джейден Тео добавляет, что не раз видел, как «горький урок» сдерживал академические исследования: многообещающие идеи отвергали за то, что они якобы расходились с его принципами. Тео считает, что дело не в самом Саттоне, а в неправильной трактовке его исходной мысли.

Он также отмечает: идеи, которые задним числом казались несовместимыми с «горьким уроком», нередко уступали место более простым и общим подходам. Это не означает, что прежние идеи были ошибочными: в своё время они могли открывать путь к прогрессу. Тео призывает исследователей не отвергать такие работы сразу. Чтобы внести вклад в развитие ИИ, идея не обязана навсегда сохранять преимущество при масштабировании.

Разногласия вокруг новых методов обучения и масштабирования трансформеров заметны и среди стартапов. В последнем выпуске Frontier Radar #5 редакция отследила 45 новых лабораторий ИИ, которые делают ставку на эти направления. Сам Творек руководит Core Automation — одной из таких лабораторий; она ищет алгоритмы обучения за пределами предварительного обучения и обучения с подкреплением. Основатели этих лабораторий, включая Саттона с Oak Lab, рассчитывают на гораздо более способный ИИ, но сомневаются, что нынешний рецепт сам по себе к нему приведёт.

Сторонники масштабирования не согласны

Руководители крупных компаний придерживаются другой позиции. Глава OpenAI Сэм Альтман считает, что возможности масштабирования больших языковых моделей ещё не исчерпаны. Он обвиняет критиков этого подхода в том, что их чрезмерная уверенность в его ограничениях тормозит целое поколение исследователей.

В подтверждение Альтман приводит модель OpenAI, которая недавно опровергла математическую гипотезу, долго не поддававшуюся математикам. Модели мира, по его мнению, полезны, например, в робототехнике, однако имеющиеся данные говорят в пользу дальнейшего масштабирования языковых моделей.

Глава Anthropic Дарио Амодей также считает, что у масштабирования нет видимого предела, сравнивая его развитие с радугой. Поскольку технические стратегии OpenAI и Anthropic целиком опираются на эту ставку, Амодей и Альтман заинтересованы в её успехе.

По оценке Dataist, спор касается не только того, сколько вычислений направлять на обучение, но и того, какие алгоритмы способны воспользоваться этим ростом. Факты, приведённые сторонами, пока поддерживают разные выводы: успех модели OpenAI показывает возможности масштабирования, но не отвечает на вопрос, смогут ли языковые модели учиться на опыте после завершения обучения.