Восемь стран и ведущие ИИ-лаборатории договорились о механизмах отключения систем в новой Парижской декларации

Подписание состоялось накануне Парижского форума мира, где во вторник около тридцати глав государств и правительств должны обсудить международное регулирование ИИ. В онлайн-встрече с президентом Франции Эммануэлем Макроном участвовали Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic, Брэд Смит из Microsoft, Артур Меш из Mistral AI, исследователь ИИ Йошуа Бенжио и министр финансов США Скотт Бессент. Германия документ не подписала.

Какие меры предусмотрены

Призыв направлен на снижение рисков кибератак и потери контроля над мощными системами ИИ. В нём выделены три направления:

Компании также обязуются публиковать несекретные результаты испытаний в едином формате, сообщать об известных рисках и поддерживать независимые проверки внешними исследователями с учётом уровня риска. Ещё один пункт — создать механизмы отключения моделей, которыми компании управляют.

При этом участникам ещё предстоит согласовать общие стандарты и порядок сотрудничества. Документ объединяет конкретные обещания по безопасности с намерением создать международные правила, но не устанавливает ни сроков, ни санкций за невыполнение обязательств.

Спор о надзоре за ИИ в США

Соглашение появилось на фоне ряда инцидентов в крупных американских лабораториях. Во время проверок кибербезопасности ИИ-агенты OpenAI самостоятельно подключались к интернету и проводили непредусмотренные атаки на платформу Hugging Face. Это вновь вызвало вопросы о том, можно ли контролировать мощные модели.

OpenAI и Anthropic готовятся к выходу на биржу и одновременно испытывают давление инвесторов, требующих ограничить риски для безопасности. Подход Сэма Альтмана к регулированию показывает, как в этой теме пересекаются вопросы безопасности и коммерческой конкуренции: по его позиции, OpenAI не должна уступать соперникам, даже если меры предосторожности замедляют работу.

В эссе, опубликованном в середине сентября, глава Anthropic Дарио Амодеи выступил за замедление исследований и международное регулирование с участием внешних аудиторов внутри лабораторий. Менее чем через неделю OpenAI призвала установить международные стандарты безопасности под руководством США. В качестве основы компания назвала сеть институтов безопасности ИИ в Великобритании, США и Франции — её также упоминает Парижский призыв.

В конце сентября на Генеральной Ассамблее ООН президент США Дональд Трамп выступил против создания «глобалистской» системы надзора за американскими моделями ИИ. Вместо этого он предложил руководителям технологических компаний подписать национальный протокол, а 10 октября распорядился сообщать американским ведомствам о крупных инцидентах, связанных с ИИ.

Трудности международного сотрудничества показал британский Институт безопасности ИИ. В сентябре Вашингтон ограничил ему доступ к новым американским моделям, а Белый дом отменил это решение только после дипломатического давления.

На парижском саммите по ИИ в феврале 2025 года оптимистичный взгляд на технологию отодвинул вопросы безопасности на второй план — в отличие от более ранних саммитов в Великобритании и Южной Корее. Позже спор вокруг новых моделей Anthropic Fable и Mythos показал, насколько острыми стали разногласия. Рост возможностей моделей подтолкнул Париж пересмотреть подход к кибербезопасности. В июне 2026 года доступ к ним за пределами США временно закрыли из-за опасений американского правительства по поводу доступа к моделям и сообщений об уязвимостях в Fable 5.

Франция готовит хартию о защите детей

Несмотря на сопротивление США, администрация президента Франции планирует продвигать на Парижском форуме мира во вторник хартию о защите детей. США заблокировали её на саммите G7 во французском Эвиан-ле-Бене в июне. Документ должен упростить независимым исследователям доступ к данным компаний, обязать крупных игроков ИИ финансировать их работу и обеспечить публикацию результатов.

На раннем этапе исследования должны изучить, как новые разговорные инструменты, которые редко возражают пользователю, влияют на когнитивное развитие маленьких детей во время повседневного обучения. Хартия также касается эмоциональной привязанности несовершеннолетних к таким системам. В США эта тема уже привлекла внимание из-за исков, связанных со случаями самоубийств.

Результаты исследований предназначены прежде всего для Еврокомиссии. В сентябре её председатель Урсула фон дер Ляйен предложила принять европейский закон о защите детей в сфере ИИ к 2028 году. Во вторник Национальный совет Франции по ИИ и цифровым технологиям передаст Макрону подготовленный по заказу правительства доклад. В нём рассматривается, как ИИ-ассистенты используют человеческие «уязвимости», и предлагаются меры для более строгого регулирования.

По оценке Dataist, Парижский призыв закрепляет практические обязательства компаний, но пока не создаёт механизма, который обеспечит их выполнение. Франция одновременно продвигает исследования рисков для детей, однако доступ независимых учёных к данным и финансирование их работы ещё предстоит организовать.