Действительно ли индустрия ИИ готова сбавить темп?

План есть, деталей мало

В новом выпуске подкаста TechCrunch Equity Кирстен Коросек, Шон О’Кейн и Энтони Ха обсудили, действительно ли руководители Anthropic и OpenAI хотят замедлить развитие ИИ.

Энтони Ха признался, что его удивило, как быстро многие руководители отрасли поддержали план Амодеи. При этом Шон О’Кейн отметил: в документе почти нет конкретики.

На вопрос Кирстен о том, смогут ли существующие законы и свободный рынок сами по себе обеспечить достаточные меры защиты, Шон ответил, что федеральное правительство США сейчас не демонстрирует готовности широко применять регулирование — тем более в сфере ИИ.

Он также усомнился, что потребители способны эффективно наказывать компании за опасные решения. Если одна из них сделает что-то действительно плохое, это не обязательно приведёт к заметному росту числа отмен подписок или другим последствиям.

Что говорят руководители

Энтони спросил Шона, действительно ли отрасль готова «синхронизировать темп развития».

Шон отнёсся к формулировке с иронией, назвав её очень калифорнийской и сравнив с репликой из фильма «На гребне волны». Ещё неделю назад он говорил в подкасте, что не ждёт никакого замедления. По его мнению, компании устроены так, что им трудно перейти к такому режиму.

Поэтому заявление Дарио Амодеи, а также позиции Сэма Альтмана и в некоторой степени Илона Маска стали резким поворотом от его прежней оценки. Однако Шон считает, что не ошибался полностью: даже в опубликованных Амодеи общих предложениях и заявлениях других руководителей по-прежнему не хватает подробностей.

Неясно, какие именно угрозы и риски они имеют в виду и что конкретно означает «замедлиться».

Энтони тоже сказал, что у него остаются вопросы. Ещё до публикации записи Амодеи другие представители отрасли начали предлагать похожие варианты плана. По его словам, такие идеи давно обсуждаются в сообществе специалистов по безопасности ИИ и не были придуманы Амодеи в одиночку.

Энтони считает обнадёживающим, что вокруг предложений быстро сформировалось согласие. Но именно скорость, с которой многие поддержали инициативу, вызывает у него сомнения: пока это не похоже на реальные масштабные шаги к замедлению.

Кирстен напомнила, что согласие может быть полезным, но одновременно способно стать началом формирования картеля. Речь идёт именно о лабораториях, которые разрабатывают передовые модели, а не обо всей индустрии без исключения.

Общая идея предложений выглядит так:

При этом вокруг этих механизмов остаётся много неопределённости.

Почему Nvidia выступает против

Кирстен также отметила заметную критику со стороны отдельных представителей отрасли. Особенно выделялся Дженсен Хуанг, от которого не ожидали столь резких возражений. Глава Nvidia публично поддержал позицию Дональда Трампа во время выступления на конференции All-In Summit.

Шон считает, что Хуанг понимает: сейчас его воспринимают как «взрослого в комнате» — человека, который способен говорить от имени отрасли более взвешенно. Ещё год или почти два года назад эту роль многие отводили Microsoft и её генеральному директору Сатье Наделле, когда ИИ-компании начали быстро расти.

Однако Microsoft, по мнению Шона, по разным причинам утратила это положение. В частности, Наделла обещал заставить Google «потанцевать», но этого не произошло — во многих отношениях случилось обратное.

Хуанг, как считает Шон, хочет одновременно понравиться как можно большему числу людей и выбрать максимально умеренную позицию. Кроме того, он стал одним из важнейших связующих звеньев между ИИ-индустрией и администрацией США. Об этом говорит и звонок Трампа Хуангу прямо во время выступления главы Nvidia на заметной и хорошо посещаемой конференции: оба получили возможность публично отреагировать на происходящее.

Кирстен согласилась, что Хуанг действительно занимает положение, позволяющее ему быть посредником и задавать тон дискуссии. Но, по её мнению, его появление на сцене выглядело частично постановочным и зашло слишком далеко. Оно особенно ясно показало, что Nvidia напрямую выигрывает от дальнейшего развития ИИ без синхронизации темпов и ограничений.

Кирстен добавила, что это была её первая реакция, хотя ей не хотелось бы смотреть на ситуацию слишком цинично.

Энтони отметил, что интересы Трампа и Хуанга совпадают, а Хуанг при этом говорит президенту то, что тот хочет услышать.

Что именно означает замедление

Энтони считает, что отдельные тезисы Хуанга стоит рассмотреть подробнее. Глава Nvidia говорил, что замедления не будет. При этом само слово «замедление» стало часто использоваться в дискуссии, хотя Сэм Альтман и Дарио Амодеи предпочитают говорить о синхронизации темпов развития.

Три предложения, о которых рассказала Кирстен, теоретически могут привести к замедлению. Но сами авторы инициативы не заявляют об этом напрямую. Они говорят о базовых мерах безопасности и независимом наблюдении за компаниями. Ни одна из этих мер сама по себе не требует развивать ИИ медленнее, чем сейчас.

Кирстен спросила Шона, нельзя ли рассчитывать на уже существующие правила свободного рынка. Если компания выпустит небезопасный продукт, рассуждала она, регуляторы смогут принять меры, а сама компания потеряет жизнеспособность из-за реакции рынка и конкурентов.

Шон ответил, что в изолированной ситуации или на рынке без сильного внешнего давления в этом действительно есть доля истины. Но нынешнее федеральное правительство США не выглядит заинтересованным в широком применении законов, а тем более — в их адресном использовании против ИИ-компаний.

Кроме того, рынок ИИ почти не определяется выбором потребителей. Если компания совершит серьёзную ошибку, это не обязательно приведёт к массовым отменам подписок или другому быстрому наказанию.

Особенно заметно это после перехода компаний в корпоративный сектор. Теперь они получают гораздо больше денег от продажи сервисов другим компаниям, а значит, потребителям труднее «голосовать долларом». Корпорации не станут переносить рабочие процессы с Codex от OpenAI на Claude Code от Anthropic только потому, что не согласны с каким-то принципиальным решением OpenAI.

Наконец, ИИ-компании поддерживает большой объём инвестиционных денег. Благодаря этому им проще пережить возможные финансовые потери, даже если они действительно столкнутся с последствиями своих решений.

По мнению Шона, идея саморегулирования через рынок выглядит убедительно в теории, но на практике почти не работает.