Гендиректор Nvidia: ИИ-компании засудят, если передовые модели продолжат творить ужасное

ИИ-компаниям стоит действовать осторожно. По мнению Хуанга, если лаборатории действительно считают, что их технологии могут выйти из-под контроля и нанести человечеству серьёзный ущерб, им следует просто не выпускать новый продукт.

Если же компании утверждают, что эксперименты невозможно сдержать, а при тестировании модели неизбежно выйдут наружу и повредят миру, лаборатории нужно закрыть, заявил Хуанг в разговоре с Эзрой Кляйном. По его словам, цена для человечества слишком высока. Ответственность может быть гражданской или уголовной, а её масштабы — огромными. Акционеры также столкнутся с последствиями.

Решение, по словам главы Nvidia, прямо следует из действующего законодательства и выглядит просто: если компания считает свою технологию неуправляемой, ей не следует выпускать продукты, пока она не возьмёт их под контроль.

Такая позиция звучит заметно, учитывая роль Nvidia в индустрии ИИ. Компания вложила почти $100 млрд в ИИ и связанные с ним партнёрства с OpenAI, Anthropic и Microsoft, а также получает большие доходы от продажи мощных чипов для ИИ.

При этом Хуанг не поддерживает мрачные прогнозы, которые в последнее время распространяют известные представители отрасли. Поводом стали заявления нескольких ИИ-лабораторий о том, что их мощные ИИ-агенты вышли из-под контроля и самостоятельно провели кибератаки.

Самый заметный случай связан с OpenAI. Компания заявила, что рой её агентов несколько месяцев незаметно выбирался из-под ограничений и взламывал другую организацию — платформу для разработки ИИ Hugging Face.

Эти инциденты, а также громкое заявление бывшего исследователя Anthropic о том, что ИИ-индустрия «играет нашими жизнями», вызвали призывы замедлить развитие ИИ. Они привели к редкому совпадению позиций Илона Маска из SpaceXAI, Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI.

Хуанг решительно не согласился с этим подходом. Он назвал подобные заявления сценариями конца света и заявил, что вероятность уничтожения мира из-за ИИ равна нулю.

В интервью The New York Times Хуанг вновь настаивал: ИИ-лаборатории должны отвечать за собственные технологии, а не ссылаться на гипотетические апокалиптические последствия так, будто происходящее от них не зависит.

По его словам, это компании и руководители, способные принимать решения. Если глава компании считает, что собирается выпустить небезопасный продукт, он может, должен и обязан не выпускать его.

Позиция Хуанга выглядит убедительно, однако она может скрывать другой тезис: ИИ-компании должны самостоятельно контролировать себя, а дальнейшее развитие отрасли должен определять свободный рынок, без вмешательства государства, пока индустрия не стала ещё крупнее.

При этом Хуанг обвинил компании в стремлении к собственной выгоде: они просят освободить их от антимонопольных ограничений, чтобы вместе «задавать темп развития передовых ИИ-моделей».

Он заявил, что не считает такой подход разумным. По словам Хуанга, если компании просят о регулировании, им не следует одновременно требовать отмены уже действующих правил.