Дженсен Хуанг: ИИ не нужно регулировать — оставьте безопасность нам

Безопасность как инженерная задача

Хуанг изложил свою позицию во время выступления на конференции Salesforce Dreamforce во вторник. Он отверг представление об ИИ как о новой форме «инопланетного разума», которым его называл как минимум один исследователь безопасности OpenAI. По словам главы Nvidia, ИИ — это аппаратное и программное обеспечение, созданное людьми. Следовательно, люди могут его контролировать, а для этого уже существуют действующие законы.

Безопасность ИИ, считает Хуанг, относится к инженерии, а не к праву. Компании разрабатывают программное обеспечение и вычислительные системы. Даже если такая система сложна, в конечном счёте она остаётся вычислительной системой.

Поэтому новые законы и правила для ИИ не нужны. Более того, Хуанг сомневается, что новые законы вообще необходимы: свободный рынок сам будет вынуждать компании не выпускать небезопасные продукты.

Если компания не уверена в функциональности, возможностях или безопасности продукта или услуги, ей не следует их выпускать. По мнению Хуанга, это очевидное решение для любой компании.

Производители должны продвигаться с такой скоростью, которая позволяет убедиться в готовности продукта и его востребованности рынком. Рыночные механизмы уже существуют, поэтому компаниям не нужны новые законы и правила. Им нужно самостоятельно решать, с какой скоростью развиваться.

Хуанг также не считает, что инновации, скорость и безопасность требуют выбора только двух из трёх вариантов. По его мнению, их можно сочетать: компаниям стоит двигаться как можно быстрее, но при первых признаках потери контроля или угрозы безопасности продукта нужно остановиться и всё исправить.

Почему Nvidia выступает против регулирования

Такой взгляд может звучать успокаивающе. Если кто и разбирается в ИИ, то основатель Nvidia: компания начала создавать аппаратную основу для ИИ задолго до появления ChatGPT. Сейчас Nvidia также выпускает открытые модели, ИИ-агентов, фреймворки для их запуска и изолированные среды — песочницы.

Но позиция Хуанга предсказуема и с другой точки зрения. Бум ИИ принёс Nvidia огромные доходы, и новые правила могли бы замедлить продажу дополнительных ИИ-систем и программного обеспечения.

В интервью Хуанг также говорил, что стал амбициознее, чем когда-либо. По его словам, рост производительности благодаря ИИ открывает почти безграничные возможности для Nvidia, отдельных отраслей и целых стран.

Небезопасные продукты уже приводят к последствиям

Даже компании с добрыми намерениями выпускают неисправные продукты, которые приводят к непредвиденным последствиям. Это касается и программного обеспечения. В 2024 году сбой CrowdStrike вызвал «синий экран смерти», остановил тысячи авиарейсов и создал проблемы для бизнеса.

Бывают и компании, которых обвиняют в сознательно безответственном поведении. Meta недавно заплатила $18 миллиардов для урегулирования иска, связанного с вредом социальных сетей для детей.

ИИ уже причинял вред независимо от намерений разработчиков и проведённых проверок безопасности. Среди таких случаев — взлом моделью OpenAI системы Hugging Face, а также иски к ИИ-лаборатории из-за самоубийств молодых людей, которые долго общались с её чат-ботом.

Стратегия, при которой компаниям просто позволяют выпускать продукты по своему усмотрению, может оказаться неразумной с точки зрения безопасности ИИ и интересов общества. Хуанг прав в том, что действующие законы об ответственности производителей, возможно, уже распространяются на ИИ. Однако это предположение придётся проверять в судах — если ИИ не нанесёт человечеству непоправимый ущерб раньше, чем такие дела успеют пройти все необходимые инстанции.

Саморегулирование отрасли

Хуанг не обсуждал другой возможный путь — саморегулирование отрасли. При этом он продвигает открытые модели и их использование компаниями как конкурентную альтернативу закрытым ИИ-лабораториям.

Сейчас у отрасли есть короткий период, чтобы создать систему саморегулирования и убедить ИИ-лаборатории по всему миру, в том числе в Китае, участвовать в ней.

Генеральный директор Microsoft Сатья Наделла говорил об этом на саммите All-In в понедельник. По его мнению, Китай тоже должен относиться к тем же угрозам безопасности, что и США. Китайские компании сталкиваются с проблемой взломов и заинтересованы в том, чтобы их граждане получали пользу от ИИ, поэтому причины для другого подхода нет.

Пока Хуанг выступает против нового регулирования ИИ, его влияния может хватить, чтобы эта позиция возобладала. На этой же неделе он показал, что буквально имеет доступ к президенту Трампу.