Пионер машинного обучения Майкл И. Джордан назвал разговоры об апокалипсисе ИИ «высокопарным морализаторским спектаклем»

Критика разговоров о сверхинтеллекте

В 2016 году журнал Science назвал Джордана «самым влиятельным специалистом по информатике». Сейчас 70-летний учёный работает полный день в Inria — Французском национальном институте исследований в области цифровых технологий в Париже, где возглавляет новую кафедру «рынки и обучение». В интервью Libération он резко отозвался о летних дискуссиях вокруг ИИ, назвав их крайне раздражающими.

Ещё в 2019 году Джордан предупреждал, что термин «ИИ» используют слишком свободно. По его словам, он был не единственным, кто замечал, что это приведёт к нынешней истерии. Когда разговоров об ИИ стало недостаточно, начали говорить об общем искусственном интеллекте, а теперь — о сверхинтеллекте.

Уходы сотрудников как моральный спектакль

Требования компаний, занимающихся ИИ, ввести регулирование Джордан называет театром. По его мнению, так компании показывают себя хорошими парнями, одновременно добиваясь полного контроля над тем, как их будут регулировать.

Уход молодого исследователя Anthropic Джейкоба Коксона в начале сентября, вызвавший волну паники из-за сценария «апокалипсиса ИИ», Джордан считает показательным примером. Многие молодые сотрудники таких компаний, по его словам, на самом деле не инженеры: они пришли из гуманитарных наук, философии и других областей. Им по 25 лет, они наивны, не занимаются инженерной работой и никогда не работали в крупных компаниях, где дисциплинированно разрабатывают реальные продукты для реальных людей.

Джордан сравнивает их встречи с беседами в парижских кафе 1920-х годов: сотрудники собираются поговорить о грандиозных научно-фантастических идеях. Уходя, они понимают, что привлекут внимание. Это даёт им возможность почувствовать себя добродетельными и предстать важными фигурами. Они говорят, что отказываются от денег, хотя у них уже есть опционы на акции. Всё это Джордан называет «грандиозным моральным спектаклем», который не помогает достичь заявленной цели. По его мнению, здесь много наивности, соседствующей с цинизмом.

Сверхинтеллект — тема научной фантастики

Слово «сверхинтеллект», считает Джордан, пришло из научной фантастики, и значительная часть обсуждений, свидетелем которых он был, относится к той же области. Обсуждать маловероятные сценарии за закрытыми дверями как научную фантастику, по его словам, допустимо. Но когда такие разговоры становятся главными, это вредит технологическому развитию, молодым людям и взглядам целых стран. Сейчас эту тему продвигают среди американских технологических лидеров, а президент Трамп поддерживает этот разговор.

Особенно резко Джордан отзывается о лауреате Нобелевской премии Джеффри Хинтоне, чьи громкие заявления, по его оценке, не всегда подтверждаются. Хинтон никогда не создавал компанию, предлагающую реальные услуги реальным людям, говорит Джордан. По его описанию, Хинтон считает, что люди поняли, как работает мозг, и могут воспроизвести его в кремнии. Затем такие копии можно было бы размножать сколько угодно, объединять результаты их обучения и получить экспоненциальный рост — а значит, сверхинтеллект. Джордан считает неправдоподобным каждый шаг этой аргументации и относит её к научной фантастике.

К Йошуа Бенжио он относится несколько мягче: тот действует и занимается вопросами безопасности напрямую. Предупреждения Бенжио обычно касаются недостатков нынешних технологий ИИ, например групп агентов, выходящих из-под контроля.

Взлом Hugging Face агентами OpenAI Джордан объясняет плохой инженерной практикой. В химической инженерии, говорит он, не стали бы допускать взрывы лишь затем, чтобы посмотреть, насколько плохо всё может закончиться. OpenAI, по его словам, проводила довольно глупые эксперименты: позволяла агентам делать что угодно и поощряла такое поведение. Сторонники сценариев катастрофы затем представляли произошедшее как что-то пугающее — будто агенты обрели сознание и пытаются уничтожить людей. Джордан и это считает научной фантастикой.

Ставка на дата-центры в триллионы долларов

Масштабные вложения в дата-центры Джордан считает огромной ставкой, и пока совершенно неясно, окупится ли она. Большие языковые модели уже достаточно хорошо справляются с задачами на естественном языке, а триллионы долларов, потраченные на дата-центры, не обязательно дадут заметный прирост.

Вместо этого, по словам Джордана, часто потребуется добавить немного специальных знаний в конкретной области — с опорой на местные данные. Для этого не нужен гигантский дата-центр, особенно если использовать открытые модели, встроенные в работу компании.