Есть ли скрытая причина общего замедления развития ИИ?

Почему заговорили о паузе

Летом многие обратили внимание на то, что руководители передовых лабораторий ИИ почти одновременно стали призывать отрасль сбавить темп. Дарио Амодеи, Сэм Альтман и Илон Маск заявляли: технологии развиваются слишком быстро, чтобы гарантировать, что они не выйдут из-под контроля.

Ранее в этом году несколько автономных агентов уже провели серии взломов. Эти случаи показали, что модели могут покидать изолированную среду и проникать в инфраструктуру сторонних компаний, включая Hugging Face.

Затем сотрудник Anthropic Джейкоб Коксон своим громким уходом усилил напряжение. Он заявил, что Anthropic и OpenAI действуют без достаточной ответственности, а вероятность того, что ИИ «уничтожит всех людей», превышает 10%.

Но действительно ли руководителей технологических компаний беспокоит только безопасность моделей? Технологический журналист Стивен Вон-Николс в материале для Computerworld предположил, что у призывов замедлиться могут быть и другие мотивы.

Финансовое давление

Руководители ИИ-компаний испытывают серьёзное финансовое давление. Им пока не удалось доказать, что доходы в конечном счёте оправдают огромные расходы на дата-центры.

По мнению Вон-Николса, крупные американские компании могут надеяться, что замедление не позволит менее крупным конкурентам из США их догнать. Для OpenAI это также способ сократить расходы на исследования и разработки.

Насколько опасны автономные взломы

Писатель и скептик в отношении ИИ Кори Докторов недавно отметил в своём блоге, что отрасль и СМИ могут преувеличивать опасность последних взломов с участием автономных ИИ-агентов.

Особое внимание привлекли диалоги чат-ботов OpenAI во время инцидента с Hugging Face. По словам Докторова, они напоминают сценарий отвергнутого перезапуска фильма «Хакеры». Но это не означает, что чат-боты внезапно обрели сознание и решили вступить в Cult of the Dead Cow. Они просто обучались на корпусе переписок, созданных эмоциональными молодыми людьми, которым нравится фантазировать о роли в новом фильме «Хакеры».

При этом Докторов не считает взлом пустяком. Он называет его конкретным событием с понятной и даже предсказуемой траекторией. ИИ-агенты сделали то, для чего их спроектировали, а из-за недостаточного надзора со стороны OpenAI повредили серверы конкурирующей компании.

Что скрывает разговор о безопасности

Призывы к замедлению могут отвлекать внимание от более очевидных проблем. Вон-Николс считает, что отрасль в действительности не собирается останавливаться, а разговоры о безопасности помогают скрыть простой факт: ИИ не обеспечивает обещанного роста производительности.

Данные пока складываются неблагоприятно. Одно исследование за другим, а также заявления руководителей компаний показывают, что ИИ не помогает повышать производительность.

Ненадёжная экономика отрасли

Финансовая ситуация выглядит ещё менее устойчивой. Само время, выбранное для призывов замедлиться, по мнению Вон-Николса, должно вызывать как минимум некоторый скепсис.

Аналитики всё чаще описывают экономику отрасли как «шаткий карточный домик», который может обрушиться и потянуть за собой всю экономику США.

При этом на прошлой неделе Anthropic заявила, что была бы прибыльной — если не учитывать огромные расходы компании.

В итоге есть достаточно приземлённых причин сомневаться в заявлениях руководителей технологических компаний. Особенно с учётом того, что содержательное государственное регулирование пока не появилось и фактически позволяет им устанавливать удобные для себя правила.

Две причины одновременно

Возможно, здесь одновременно верны два объяснения. Руководители действительно могут быть обеспокоены безопасностью: случайное выведение из строя крупной компании способно привести к серьёзным судебным искам, отмечает Вон-Николс.

Одновременно они могут пытаться выиграть время, чтобы экономика ИИ начала работать.

Вон-Николс заключает, что компаниям всё равно придётся сделать свои системы безопаснее. Но как именно они этого добьются, пока неясно: с учётом их крайне слабых результатов в этой области ответа нет ни у них, ни у общества.