OpenAI хочет выяснить, будет ли вообще законным замедление развития ИИ-отрасли

Правовые риски координации

В последние недели OpenAI обращалась к членам Конгресса за ясными правилами о том, законно ли организовывать общую для всей отрасли паузу в развитии передовых систем ИИ. По словам людей, знакомых с ситуацией, содержательная координация между лабораториями в вопросах безопасности может вступить в противоречие с антимонопольным законодательством. Это осложняет привлечение к такой инициативе крупнейших технологических компаний.

В прошлые выходные главный научный сотрудник OpenAI Якуб Пачоцки опубликовал запись в блоге. Он написал, что одним из возможных путей для исследовательской отрасли станет координация замедления будущих разработок. По его мнению, это поможет сделать безопасными самоулучшающиеся системы ИИ. В ближайшей перспективе Пачоцки ожидает, что добровольные замедления станут обычной практикой, пока не появятся общие пороги безопасности.

Некоторые специалисты по праву считают, что такая инициатива может нарушить антимонопольные законы США. Николас Фелстид, заместитель директора Австралийской комиссии по вопросам конкуренции и бывший научный сотрудник по политике ИИ в Center for Law & ИИ Risk, в статье за март писал, что согласованная пауза в развитии ИИ может означать ограничение компаниями объёма выпуска продукции и потенциально нарушать антимонопольный закон Шермана.

По словам Фелстида, всё зависит от конкретных условий соглашения. Даже если большинство совместных проектов по безопасности в итоге выдержит антимонопольную проверку, правовая неопределённость сама по себе может серьёзно отговорить компании от участия.

OpenAI не ответила на запрос о комментарии до публикации материала.

Законопроект в Конгрессе

Появились первые признаки того, что Конгресс прислушивается к этим опасениям. В июле двухпартийная и двухпалатная группа законодателей внесла законопроект под названием «Закон о сотрудничестве в борьбе с угрозами и рисками безопасности» — Collaboration on Adversarial Threats and Security Risks Act. Документ прямо разрешает лабораториям ИИ координировать работу над безопасностью и защитой, не опасаясь нарушения антимонопольных норм.

Версию законопроекта для Палаты представителей направили в юридический комитет, но там её пока не рассматривали.

Калеб Кнапп, директор по связям с государственными органами некоммерческой организации ИИ Policy Network, поддержавшей законопроект, считает, что он создаст легальные механизмы для совместного реагирования лабораторий ИИ на инциденты, связанные с безопасностью и защитой.

Кнапп добавил, что в Конгрессе растёт готовность принять меры в сфере безопасности ИИ. Однако, по его словам, принятия закона, вероятно, придётся ждать до окончания предстоящих промежуточных выборов.

Почему компании не сотрудничают

Некоторые руководители ИИ-компаний действительно могут опасаться антимонопольных последствий. Но другие представители отрасли считают, что эти опасения служат удобным прикрытием: настоящие причины нежелания разработчиков сотрудничать гораздо шире возможных юридических рисков.

Во-первых, ИИ — огромный рынок, и компании жёстко конкурируют за долю в только формирующемся сегменте передовых моделей. Некоторые руководители разделяют позицию администрации Трампа о том, что отставание от Китая в области ИИ угрожает национальной безопасности.

Кроме того, у разработчиков сильно различаются представления о том, как именно нужно создавать безопасный ИИ. Из-за этого им может быть трудно совместно работать над одной и той же проблемой.

Джон Шульман, сооснователь OpenAI, который теперь занимает должность главного научного сотрудника конкурирующей лаборатории Thinking Machines, написал в начале этой недели в X, что OpenAI и Anthropic должны прекратить конфликтовать и вместе подготовить предложение о темпах развития отрасли. По его мнению, компании могут ссылаться на антимонопольное законодательство, но это будет лишь предлогом: такие нормы запрещают определённые соглашения, однако не мешают совместно разрабатывать предложение.

Растущая тревога вокруг гонки ИИ

Давно существовавшие опасения по поводу гонки между компаниями, создающими и выпускающими всё более мощные модели, этим летом вышли на общенациональный уровень.

На этой неделе бывший исследователь Anthropic и OpenAI Джейкоб Коксон усилил тревогу, опубликовав резкое предупреждение: разработчики ИИ подвергают человечество риску.

В последние месяцы произошло несколько инцидентов, связанных с безопасностью. Среди них — взлом агентами OpenAI платформы Hugging Face. Эти случаи показали, что защитные механизмы отрасли не успевают за ростом возможностей моделей.

Череда событий привела многих законодателей к срочным призывам принять регулирование ИИ.