Не дайте себя обмануть этой летней шумихой вокруг ИИ

Лето заявлений об ИИ

Последние месяцы оказались насыщены громкими сообщениями об ИИ. В конце апреля Anthropic заявила, что её модель Claude Mythos лучше большинства экспертов по безопасности находит уязвимости в программном обеспечении. Затем произошёл инцидент со взломом OpenAI и Hugging Face. После него Anthropic — с гордостью, а Meta — нехотя — раскрыли похожие случаи, связанные с их моделями.

Следом Anthropic сообщила, что одна из её моделей совершила прорыв в математике. Вскоре о собственном математическом прорыве объявила OpenAI. А недавно инженер Anthropic Джейкоб Коксон стал широко обсуждаться после заявления об уходе из компании. Он утверждал, что Anthropic и OpenAI «напрямую мчатся к самоулучшающемуся сверхинтеллекту и ставят на кон наши жизни».

Пресса в основном освещала все эти события без должной критической дистанции, часто повторяя антропоморфные формулировки компаний. Они создают впечатление, будто речь идёт не просто о мощном программном обеспечении, а о первых шагах к «искусственному общему интеллекту».

Возникает вопрос: действительно ли мы наблюдаем серию масштабных технологических прорывов, способных изменить цивилизацию, или перед нами маркетинг?

Во всех этих случаях компании сопровождали свои заявления большой оглаской. В историях со взломами это подавалось как признание ошибок, а затем тему активно подхватывали СМИ. Но когда специалисты успевали изучить произошедшее, картина выглядела иначе — и получала меньше внимания.

Что показала проверка

В случае со «взломами» эксперты по кибербезопасности говорили прежде всего о халатности OpenAI и неспособности внедрить базовые, давно известные меры защиты. Речь шла не о «вышедших из-под контроля моделях» и не об «ИИ-агентах, создающих цивилизации».

С математическими результатами произошло похожее. Сначала математики были поражены пресс-релизом OpenAI: компания утверждала, что её новый чат-бот Astra решил задачи, которые «оставались открытыми и не демонстрировали прогресса по главному результату как минимум десять лет».

Позже специалисты пришли к выводу, что результаты оказались не такими «новыми, как показалось сначала». Затем математиков обвинили OpenAI в нарушениях научной этики и плагиате. Они также повторили, что Astra не совершила «глубокого интеллектуального скачка».

Всего через несколько недель OpenAI заявила о собственном математическом прорыве. За два дня до этого профессор математики Института Куранта при Нью-Йоркском университете Тристан Бакмастер опубликовал резкое заявление: по его словам, OpenAI могла присвоить чужую работу и неправильно указать её авторство.

Заявления о приближении опасного сверхинтеллекта не опираются на добросовестную научную или инженерную практику. Они основаны на идеях трансгуманизма, евгеники и желаемом представлении о возможных цифровых людях будущего.

Почему в центре внимания математика и программирование

Стоит задуматься, почему именно программирование и математика стали главными областями для применения больших языковых моделей и связанных с ними технологий.

Эти области часто представляют как вершину человеческой интеллектуальной деятельности. Кроме того, в них есть задачи, для которых можно проверить предложенный ответ. Первое свойство помогает сторонникам ажиотажа продавать идею машин, способных делать всё. Второе упрощает настройку систем: их ответы — последовательности вероятных слов или фрагменты программного кода — можно оценивать без привлечения разметчиков данных для проверки каждого результата.

Математики особенно часто предупреждали, что корпорации используют их область именно таким образом. Сотни специалистов подписали заявление, в котором говорится о сильной коммерческой мотивации технологической индустрии преувеличивать возможности своих продуктов. Авторы документа призвали законодателей консультироваться с экспертами, включая математиков, при подготовке решений, а не полагаться на пресс-релизы и популярные публикации о математических результатах.

Авторы поддерживают этот призыв и отмечают, что технологические компании создают иллюзию скорости и срочности. Такая тактика помогает отвлечь внимание законодателей и общества. Иногда она срабатывает: примером авторы называют добросовестную, но в итоге ошибочную инициативу сенатора Берни Сандерса, который предложил законопроект против разработки «искусственного сверхинтеллекта».

Кто отвечает за действия моделей

Когда продукты называют «сверхинтеллектом» или «сбежавшими моделями», им приписывают самостоятельную волю и тем самым снимают внимание с компаний, которые их создают. Такая рамка одновременно рекламирует продукты как «сверхчеловеческие» и помогает компаниям уклоняться от ответственности за свои действия.

Вместо того чтобы привлекать OpenAI к ответственности за создание вредоносной программы, взломавшей другую компанию, пресс-релизы, СМИ, публичные комментаторы и законодатели говорят о «сбежавших моделях» — будто те действовали самостоятельно.

Вместо вопросов к исследователям о привычке их компаний присваивать работу учёных или обучать модели на пользовательских данных без согласия внимание общества переключают на страхи перед будущим и вымышленными сверхразумными машинами.

ИИ-индустрия даже называла массовые, поддержанные обеими партиями протесты против дата-центров «отвлекающим манёвром», мешающим регулировать приближающиеся пугающие «сверхчеловеческие» машины. По версии индустрии, людям следует сильнее тревожиться о вымышленном машинном боге, чем о последствиях работы дата-центров:

Вывод

Авторы считают, что решения нельзя принимать на основе маркетинга и под давлением корпораций, требующих действовать как можно быстрее. Законодателям и местным сообществам нужно время, чтобы выслушать независимых экспертов и рассмотреть заявления компаний в контексте.

Лучшим итогом нынешнего периода ажиотажа станет способность законодателей и общества сделать паузу, сохранить скепсис и в следующий раз распознать подобные заявления как маркетинг.

Тимнит Гебру — исполнительный директор DAIR и автор готовящейся книги Deep Unlearning: The Radicalization of a Tech Idealist. Книга уже доступна для предварительного заказа и выйдет 16 февраля. Эмили М. Бендер — профессор лингвистики Вашингтонского университета и соавтор книги The AI Con.