Абсурдное переименование ИИ Трампом стало проверкой лояльности техноруководителей — и они её прошли

Как появился термин

Летом 1956 года группа учёных собралась в Дартмутском колледже, чтобы обсудить смелую идею: однажды машины могут научиться мыслить подобно людям. Один из участников, Джон Маккарти, предложил назвать новую область «искусственным интеллектом». Термин прижился: поиск Google Scholar по этой фразе выдаёт около 7 420 000 результатов. Она стала повсеместной и понятной почти всем. Даже людей, которым не нравится ИИ, обычно мало заботит, как именно его называют.

Но президенту Дональду Трампу это название пришлось не по душе. Если ему что-то не нравится, он считает, что может запретить это указом. В речи в ООН 23 сентября Трамп дал понять, что хотел бы избавиться от слов «искусственный интеллект». Тогда это выглядело очередной громкой выходкой человека, который переименовывал заливы, озёра и центры искусств. Но на этой неделе за обедом в Белом доме с руководителями ведущих ИИ-компаний он подписал указ: термина «искусственный интеллект» следует избегать, а правительство будет называть эту область «сверхинтеллектом». По-видимому, президент ждёт, что частный сектор последует его примеру.

Руководители индустрии безропотно согласились. Теперь их, выходит, придётся называть руководителями сверхинтеллекта.

Это выглядит как демонстрация президентской власти: сколько бы триллионов долларов ни стояло за компаниями и сколько бы ума ни было у их руководителей, главным в комнате оказался человек с оранжевой кожей. На фоне возможного вреда от этой технологии переименование может показаться мелочью. Но для присутствовавших это название — больше, чем набор букв. Оно стало основой их работы и частью их идентичности. В детстве они читали научную фантастику под одеялом, и эти слова будили их воображение. Они создавали или перестраивали компании вокруг ИИ и почти только о нём и говорили последние четыре года.

Однако, когда Трамп за обедом добивался одобрения своей затеи отменить семь десятилетий истории, никто, похоже, не возразил. Ни Джефф Безос, ни Дженсен Хуанг, ни Дарио Амодеи, ни Марк Цукерберг, ни Сундар Пичаи, ни Грег Брокман, ни Алекс Карп, ни Илон Маск.

Джейкоб Вайсберг, автор недавно вышедшей книги Profiles in Cowardice: A Study of Collaboration in the Trump Era, считает случившееся классической проверкой на лояльность в исполнении Трампа. Президент проверял, готовы ли влиятельные люди унизить себя, чтобы заслужить его расположение и не навлечь его гнев. Если такую проверку пройти, проверку на твёрдость характера не выдержишь. По словам Вайсберга, сопротивляться подобному можно только сообща: если бы все руководители согласились на условия саморегулирования, но отвергли смену названия, Трампу пришлось бы решать, что делать дальше.

Из-за молчания миллиардеров Трамп смог заявить, что руководители сами поддержали его идею. Когда после обеда журналистка спросила о ИИ-агентах, он поправил её и сказал, что название изменили крупнейшие, умнейшие и величайшие люди мира.

Но даже с помощью сверхинтеллектуальных систем вроде ChatGPT или Gemini автор не смог найти ни одного случая, когда кто-либо из этих руководителей прежде выступал за отказ от слов «искусственный интеллект». Сатья Наделла однажды говорил, что предпочёл бы название «другой интеллект», но это не помешало ему снова и снова употреблять привычный термин. А Марк Цукерберг действительно недавно создал лабораторию сверхинтеллекта, однако Meta продолжает предлагать миллиардам пользователей продукт Meta AI и продаёт то, что сама называет ИИ-очками.

Автор спросил Google, Microsoft, Anthropic, Meta, Amazon, OpenAI и xAI, собираются ли они менять упоминания ИИ в названиях продуктов, научных работах и коммуникациях. У OpenAI и xAI он также поинтересовался, планируют ли компании менять собственные названия, чтобы соответствовать указу президента. На момент подготовки текста ни одна из компаний не ответила.

Автор предполагает, что компании сделают лишь необходимый минимум, чтобы не вызвать недовольство Трампа, и постараются дождаться окончания его срока — тогда новая администрация сможет отменить эту странную затею. Некоторые предполагали, что руководители сами рады переименовать ставший токсичным термин. Автор в этом сомневается: предписанная президентом замена — «сверхинтеллект» — звучит куда пугающе, чем исходное название.

Почему «сверхинтеллект» не подходит

С научной точки зрения переименование тоже не имеет смысла. Философ Ник Бостром, популяризировавший термин «сверхинтеллект» в одноимённой книге, в электронном письме автору объяснил, что так называют системы, которые значительно превосходят лучшие человеческие умы. «Искусственный интеллект» охватывает гораздо более широкую категорию: например, фильтры спама, проверку орфографии, простые навигационные системы, ранние большие языковые модели и шахматные программы 1970-х годов, которые ещё не могли обыграть лучших шахматистов. Называть всё это «сверхинтеллектом» было бы странно.

Зачем президент требует сменить название, кроме как потому, что может? В речи в ООН он объяснил, что слово «искусственный» создаёт впечатление, будто интеллект ненастоящий, хотя это не так. После обеда в Белом доме он вновь назвал словосочетание «искусственный интеллект» фальшивым, плохим и неуместным. Для связи этой логики с решением убрать из Белого дома CNN, Politico и MSNow много объяснений не нужно: Трамп считает их новости «фальшивыми».

Однако отождествление искусственного с ненастоящим не выдерживает проверки. В 1956 году Маккарти использовал это слово, чтобы отличить человеческий интеллект от машинного. Проблема не в том, что название заставляет людей считать ответы ИИ ненастоящими. На деле они бывают настолько убедительными, что человек нередко не может понять, общается ли он с моделью или с другим человеком. Требование ясно обозначать такую разницу — например, с помощью водяных знаков и маркировки — должно стать частью регулирования ИИ. Но Белый дом, похоже, к этому не расположен.

Как отмечает Вайсберг, подобный безумный указ вполне соответствует характеру Трампа. Тревожит другое: руководители не стали ему перечить. Они ушли с обещанием саморегулирования вместо строгого надзора, но потеряли достоинство.

Впрочем, отказ защищать право называть искусственный интеллект искусственным ставит под сомнение и эту договорённость. Чтобы добровольные стандарты работали, нужна твёрдость характера: требования безопасности могут вступать в конфликт с финансовыми и конкурентными интересами. И всё же нас просят доверять якобы независимым корпоративным гигантам, которые молча кивали, пока президент, плохо разбирающийся в технологиях, требовал отказаться от термина, лежащего в основе их работы и заработка. Неуместно и фальшиво.