Сэм Альтман и Дарио Амодеи выступили в Совете Безопасности ООН

Выступление Альтмана

Главы двух крупнейших компаний в сфере ИИ выступили в среду, когда их продукты всё чаще проверяют на безопасность. Общественная тревога усилилась после предупреждений исследователей Anthropic в начале месяца. Они заявили, что технология может уничтожить человечество в течение ближайшего десятилетия. После этого руководители ИИ-компаний, включая Альтмана и Амодеи, призвали замедлить развитие ИИ и расширить международное сотрудничество в области стандартов безопасности.

Альтман около 10 минут выступал, сидя в углу стола Совета Безопасности подковообразной формы. Он говорил о пользе ИИ для производительности, но одновременно предупредил о возможных злоупотреблениях. По его словам, государства должны вместе создавать будущее, в котором ИИ направляют демократические институты, а люди не воспринимают технологию как силу, решения которой им просто навязывают.

Альтман также заявил, что ключевые решения о будущем ИИ не могут принимать только лаборатории в Сан-Франциско. Их следует формировать через демократические процедуры и при участии правительств, подотчётных гражданам.

Сэм Альтман во время заседания Совета Безопасности ООН по вопросам искусственного интеллекта в Нью-Йорке в среду

Источник: theguardian.com

Эта позиция контрастирует с некоторыми лоббистскими усилиями OpenAI и политическим комитетом её президента Грега Брокмана. Про-ИИ комитет Leading the Future PAC уже собрал более $100 млн и потратил миллионы долларов на кампании против кандидатов, выступающих за более жёсткое регулирование ИИ-индустрии.

Альтман также коснулся опасений исследователей Anthropic по поводу угрозы существованию человечества и предостерёг Совет Безопасности от катастрофизма. Вместо этого он предложил «средний путь» в обсуждении безопасности, основанный на трёх принципах:

Позиция Anthropic

Дарио Амодеи выступал по видеосвязи и повторил основные идеи из записи в блоге от 12 сентября. В ней он призывал усилить международное сотрудничество и надзор за развитием ИИ. Среди предложенных им международных соглашений:

Альтман в основном избегал прямого обсуждения предупреждений об угрозе существованию человечества, которые в этом месяце оказались в центре внимания. Амодеи, напротив, вновь заявил, что разработчики могут потерять контроль над ИИ, и одновременно представил Anthropic как лидера отрасли в сфере безопасности.

По словам Амодеи, при плохом управлении ИИ может стать угрозой для всего человечества. Он также заявил, что Anthropic считает свою историю предотвращения подобных рисков лучшей в отрасли.

Почему регулирование вышло на первый план

Регулирование ИИ стало одной из главных политических тем после предупреждений исследователей Anthropic — главного конкурента OpenAI. Они заявили, что технология может уничтожить человечество в течение нескольких лет.

Такие опасения регулярно звучат среди части специалистов по ИИ. Они считают, что технология может привести к масштабным разрушениям по разным причинам: от помощи в создании биологического оружия до провоцирования финансовой катастрофы. Ранее Амодеи призвал замедлить развитие ИИ. Его поддержали OpenAI, Google и Илон Маск.

Борьба за влияние

Амодеи и Альтман давно представляют себя ответственными хранителями ИИ и стремятся влиять на общественное восприятие технологии. Одновременно их компании конкурируют за лидерство в отрасли.

Обе компании рассматривают возможность первичных размещений акций, которые могут стать рекордными и оценить каждую из них более чем в $1,5 трлн.