i
Новости
Новости · 2026-11-19

Если технарям приходится увольняться, чтобы бить тревогу, пора беспокоиться

Dataist Dataist

За последние два года специалисты по безопасности из ведущих лабораторий ИИ несколько раз уходили с публичными предупреждениями о том, что коммерческие интересы оттесняют меры предосторожности. На фоне обсуждения регулирования ИИ в Лондоне исследовательница Изабель Феррерас предлагает менять не только внешние правила для отрасли, но и устройство самих компаний: дать сотрудникам право влиять на решения, касающиеся разработки и применения ИИ.

Обложка: Если технарям приходится увольняться, чтобы бить тревогу, пора беспокоиться

Почему увольнения не заменяют участия

Недавно из OpenAI ушёл специалист, отвечавший за отчёты о безопасности новых продуктов. Он назвал культуру компании «сломанной» и заявил, что вся отрасль слишком беспечно подходит к разработке ИИ. Месяцем ранее об уходе объявил исследователь Anthropic: он предупредил, что, по его мнению, ИИ может погубить человечество до конца десятилетия.

Общество восхищается смелостью таких людей, обсуждает их предостережения, а затем переключается на другие темы. Но, по мысли Феррерас, важнее сами причины увольнений. Политолог Альберт Хиршман сформулировал различие между уходом и голосом: увольнение не даёт сотруднику возможности повлиять на организацию. Когда инженер может сообщить о риске, только покинув компанию, это указывает на проблему в корпоративном управлении. Вместе с ним уходит и знание, необходимое для безопасной работы над системами.

В Лондоне на этой неделе представители власти, работники технологической отрасли, профсоюзов и парламентов, а также эксперты международных организаций, включая Ватикан и ООН, обсуждают безопасность ИИ. Феррерас считает, что регулировать отрасль снаружи не получится, пока компании внутри устроены как автократии.

Кто задаёт правила для ИИ

В дискуссиях о регулировании, пишет автор, преобладают два подхода: рассматривать ИИ как потребительский продукт, который нужно проверять на дефекты, или как участника геополитической гонки, где ради победы следует ослабить требования к бизнесу. Такая логика, по её мнению, проявляется в цифровом пакете Евросоюза, предложенном Урсулой фон дер Ляйен: он откладывает введение требований закона ЕС об ИИ, принятого в 2024 году. Этот закон устанавливает конкретные правила безопасности для разработчиков систем ИИ высокого риска. Корпоративные лоббисты поддерживают представление о том, что безопасность и инновации требуют компромисса, утверждая, что законодательство создаёт для бизнеса чрезмерную нагрузку.

Но ИИ, подчёркивает Феррерас, влияет не только на пользователей программ: это технология управления. В передовых лабораториях OpenAI, Anthropic, Microsoft и Google небольшая группа руководителей и инвесторов решает, какие ценности будут заложены в модели, влияющие на жизнь миллионов людей.

Юрист Оксфордского университета Херемиас Адамс-Прассль, изучающий автоматизацию труда в Европе, показал, что алгоритмическое управление уже следит за работниками из разных социальных слоёв, оценивает их и увольняет — зачастую без участия человека.

Феррерас связывает эту практику с устройством компаний. В демократическом обществе власть должна опираться на согласие тех, кем управляют. Однако корпоративное право по-прежнему рассматривает компании как собственность акционеров, а работников — как подчинённых, хотя они вкладывают в работу знания, здоровье и жизнь. Чтобы направить ИИ на пользу обществу, автор предлагает сочетать государственное регулирование с реформой корпоративного управления.

Три направления реформ

Первое касается разработки ИИ и защиты тех, кто создаёт модели. Законодателям предлагается запретить соглашения о неразглашении и неумалении репутации, если они мешают сотрудникам сообщать о рисках безопасности, и обеспечить действенную защиту информаторов. Кроме того, работникам нужны коллективные права на участие в стратегии компаний, независимые каналы для сообщений о нарушениях безопасности и формальное представительство в передовых лабораториях до выпуска моделей.

Второе направление — применение ИИ на рабочих местах. Летом Meta столкнулась с недовольством сотрудников после того, как Facebook, Instagram и WhatsApp внедрили инструмент для сбора данных об использовании компьютеров. Он отслеживал нажатия клавиш, щелчки мышью и содержимое экранов, чтобы собирать данные для обучения моделей ИИ. Работники опасались, что их приватность и право давать согласие не соблюдаются, а сами они могут потерять работу.

Феррерас предлагает закрепить за работниками обязательное право совместно принимать решения о применении ИИ на рабочем месте. Алгоритмические системы, которые наблюдают за сотрудниками, оценивают их или применяют к ним дисциплинарные меры, нельзя вводить без предварительных переговоров. На национальном уровне и в ЕС следует рассмотреть коллективные переговоры о внедрении ИИ и право производственных советов или профсоюзов налагать вето. Их должны поддерживать независимые технические эксперты, а автоматическое увольнение необходимо строго запретить.

Третья реформа относится к управлению компаниями в целом. Автор предлагает демократизировать советы директоров и поощрять компании, которые не сосредоточивают всю власть наверху. Законодатели должны предусмотреть избрание представителей работников в советы директоров и развивать систему двойного большинства: для стратегических решений потребуется согласие и инвесторов, и работников.

Экономисты Дарон Аджемоглу и Саймон Джонсон, получившие Нобелевскую премию по экономике в 2024 году, показывали, что технологические революции сами по себе не гарантируют общего роста благосостояния: результат зависит от институтов, которые определяют, кто получает выгоду и кто несёт издержки. Распространение демократических принципов на компании, считает Феррерас, нужно для более взвешенных решений. Для этого корпоративному руководству необходима «демократическая разумность» — выражение политического теоретика Йельского университета Элен Ландмор, обозначающее коллективный интеллект разных людей, которые обсуждают решения и участвуют в их принятии.

Изабель Феррерас — научный сотрудник программы ускоренного развития Института этики ИИ Оксфордского университета, директор по исследованиям FNRS в Лувенском университете в Бельгии и соосновательница DemocraticIntelligence.org.

По оценке Dataist, предложенные реформы связывают безопасность ИИ с тем, кто принимает решения внутри компаний и может оспаривать их. Пока авторы систем и работники, на которых влияет алгоритмическое управление, не получат действенных способов вмешиваться в эти решения, регулирование будет зависеть от компаний и отдельных информаторов.

Mistral догоняет конкурентов с Vibe Desktop, пока те уже управляют целыми операционными системами Более половины электроэнергии крупнейших дата-центров США дают газ и уголь Сатья Наделла объяснил, зачем предложил 60 тысячам сотрудников Microsoft уйти из компании Hugging Face направляет запросы к моделям через OpenRouter, выбирая лучшие цену или скорость На фоне опасений из-за кибератак с ИИ Сатья Наделла предупредил: многие объекты критической инфраструктуры нельзя защитить обновлениями Google выпустила Gemini 4 Neon: кодит на уровне Opus 5.5, а токены API на 25% дешевле Четверо школьников из Мэриленда подали в суд после того, как ИИ принял пакет Doritos за оружие Война за ИИ-чипы в США набирает обороты самым нелепым образом OpenAI впервые допустила четырёх независимых аудиторов к своим ИИ-системам на месте Сатья Наделла: ИИ-агенты изменят экономику интернета В рамках «Project Exponential» KPMG поставила ИИ-агентов рядом с аудиторской командой — и те глубже разбирались в отдельных вопросах Anthropic, по сообщениям СМИ, оценит акции при IPO в $83 — выше прогнозируемого диапазона Почему потрясения в Nvidia вряд ли повлияют на IPO Anthropic Австралию и так считают самой закрытой демократией в мире. Новые законы могут усугубить ситуацию Даже чиновники Трампа не ждут, что его поездка в Китай продвинет диалог об ИИ SEC расследует нераскрытые продажи Nvidia, связанные с Китаем Банки и АНБ признали: масштабные сбои действительно вызвал ИИ ИИ подрывает всю программную инфраструктуру, на которой держится мир Сэма Альтмана уже не смущает, что в новом фильме его сыграет Эндрю Гарфилд: его жизнь и так страннее Обновление Project Genie от Google DeepMind добавило Genie 4, связанные миры и галерею для переработки работ сообщества

Ежедневные новости об ИИ

Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.

Только важное — каждый день

В Telegram