Почему увольнения не заменяют участия
Недавно из OpenAI ушёл специалист, отвечавший за отчёты о безопасности новых продуктов. Он назвал культуру компании «сломанной» и заявил, что вся отрасль слишком беспечно подходит к разработке ИИ. Месяцем ранее об уходе объявил исследователь Anthropic: он предупредил, что, по его мнению, ИИ может погубить человечество до конца десятилетия.
Общество восхищается смелостью таких людей, обсуждает их предостережения, а затем переключается на другие темы. Но, по мысли Феррерас, важнее сами причины увольнений. Политолог Альберт Хиршман сформулировал различие между уходом и голосом: увольнение не даёт сотруднику возможности повлиять на организацию. Когда инженер может сообщить о риске, только покинув компанию, это указывает на проблему в корпоративном управлении. Вместе с ним уходит и знание, необходимое для безопасной работы над системами.
В Лондоне на этой неделе представители власти, работники технологической отрасли, профсоюзов и парламентов, а также эксперты международных организаций, включая Ватикан и ООН, обсуждают безопасность ИИ. Феррерас считает, что регулировать отрасль снаружи не получится, пока компании внутри устроены как автократии.
Кто задаёт правила для ИИ
В дискуссиях о регулировании, пишет автор, преобладают два подхода: рассматривать ИИ как потребительский продукт, который нужно проверять на дефекты, или как участника геополитической гонки, где ради победы следует ослабить требования к бизнесу. Такая логика, по её мнению, проявляется в цифровом пакете Евросоюза, предложенном Урсулой фон дер Ляйен: он откладывает введение требований закона ЕС об ИИ, принятого в 2024 году. Этот закон устанавливает конкретные правила безопасности для разработчиков систем ИИ высокого риска. Корпоративные лоббисты поддерживают представление о том, что безопасность и инновации требуют компромисса, утверждая, что законодательство создаёт для бизнеса чрезмерную нагрузку.
Но ИИ, подчёркивает Феррерас, влияет не только на пользователей программ: это технология управления. В передовых лабораториях OpenAI, Anthropic, Microsoft и Google небольшая группа руководителей и инвесторов решает, какие ценности будут заложены в модели, влияющие на жизнь миллионов людей.
Юрист Оксфордского университета Херемиас Адамс-Прассль, изучающий автоматизацию труда в Европе, показал, что алгоритмическое управление уже следит за работниками из разных социальных слоёв, оценивает их и увольняет — зачастую без участия человека.
Феррерас связывает эту практику с устройством компаний. В демократическом обществе власть должна опираться на согласие тех, кем управляют. Однако корпоративное право по-прежнему рассматривает компании как собственность акционеров, а работников — как подчинённых, хотя они вкладывают в работу знания, здоровье и жизнь. Чтобы направить ИИ на пользу обществу, автор предлагает сочетать государственное регулирование с реформой корпоративного управления.
Три направления реформ
Первое касается разработки ИИ и защиты тех, кто создаёт модели. Законодателям предлагается запретить соглашения о неразглашении и неумалении репутации, если они мешают сотрудникам сообщать о рисках безопасности, и обеспечить действенную защиту информаторов. Кроме того, работникам нужны коллективные права на участие в стратегии компаний, независимые каналы для сообщений о нарушениях безопасности и формальное представительство в передовых лабораториях до выпуска моделей.
Второе направление — применение ИИ на рабочих местах. Летом Meta столкнулась с недовольством сотрудников после того, как Facebook, Instagram и WhatsApp внедрили инструмент для сбора данных об использовании компьютеров. Он отслеживал нажатия клавиш, щелчки мышью и содержимое экранов, чтобы собирать данные для обучения моделей ИИ. Работники опасались, что их приватность и право давать согласие не соблюдаются, а сами они могут потерять работу.
Феррерас предлагает закрепить за работниками обязательное право совместно принимать решения о применении ИИ на рабочем месте. Алгоритмические системы, которые наблюдают за сотрудниками, оценивают их или применяют к ним дисциплинарные меры, нельзя вводить без предварительных переговоров. На национальном уровне и в ЕС следует рассмотреть коллективные переговоры о внедрении ИИ и право производственных советов или профсоюзов налагать вето. Их должны поддерживать независимые технические эксперты, а автоматическое увольнение необходимо строго запретить.
Третья реформа относится к управлению компаниями в целом. Автор предлагает демократизировать советы директоров и поощрять компании, которые не сосредоточивают всю власть наверху. Законодатели должны предусмотреть избрание представителей работников в советы директоров и развивать систему двойного большинства: для стратегических решений потребуется согласие и инвесторов, и работников.
Экономисты Дарон Аджемоглу и Саймон Джонсон, получившие Нобелевскую премию по экономике в 2024 году, показывали, что технологические революции сами по себе не гарантируют общего роста благосостояния: результат зависит от институтов, которые определяют, кто получает выгоду и кто несёт издержки. Распространение демократических принципов на компании, считает Феррерас, нужно для более взвешенных решений. Для этого корпоративному руководству необходима «демократическая разумность» — выражение политического теоретика Йельского университета Элен Ландмор, обозначающее коллективный интеллект разных людей, которые обсуждают решения и участвуют в их принятии.
Изабель Феррерас — научный сотрудник программы ускоренного развития Института этики ИИ Оксфордского университета, директор по исследованиям FNRS в Лувенском университете в Бельгии и соосновательница DemocraticIntelligence.org.
По оценке Dataist, предложенные реформы связывают безопасность ИИ с тем, кто принимает решения внутри компаний и может оспаривать их. Пока авторы систем и работники, на которых влияет алгоритмическое управление, не получат действенных способов вмешиваться в эти решения, регулирование будет зависеть от компаний и отдельных информаторов.
Читайте также
Mistral догоняет конкурентов с Vibe Desktop, пока те уже управляют целыми операционными системами
Более половины электроэнергии крупнейших дата-центров США дают газ и уголь
Сатья Наделла объяснил, зачем предложил 60 тысячам сотрудников Microsoft уйти из компании
Hugging Face направляет запросы к моделям через OpenRouter, выбирая лучшие цену или скорость
На фоне опасений из-за кибератак с ИИ Сатья Наделла предупредил: многие объекты критической инфраструктуры нельзя защитить обновлениями
Google выпустила Gemini 4 Neon: кодит на уровне Opus 5.5, а токены API на 25% дешевле
Четверо школьников из Мэриленда подали в суд после того, как ИИ принял пакет Doritos за оружие
Война за ИИ-чипы в США набирает обороты самым нелепым образом
OpenAI впервые допустила четырёх независимых аудиторов к своим ИИ-системам на месте
Сатья Наделла: ИИ-агенты изменят экономику интернета
В рамках «Project Exponential» KPMG поставила ИИ-агентов рядом с аудиторской командой — и те глубже разбирались в отдельных вопросах
Anthropic, по сообщениям СМИ, оценит акции при IPO в $83 — выше прогнозируемого диапазона
Почему потрясения в Nvidia вряд ли повлияют на IPO Anthropic
Австралию и так считают самой закрытой демократией в мире. Новые законы могут усугубить ситуацию
Даже чиновники Трампа не ждут, что его поездка в Китай продвинет диалог об ИИ
SEC расследует нераскрытые продажи Nvidia, связанные с Китаем
Банки и АНБ признали: масштабные сбои действительно вызвал ИИ
ИИ подрывает всю программную инфраструктуру, на которой держится мир
Сэма Альтмана уже не смущает, что в новом фильме его сыграет Эндрю Гарфилд: его жизнь и так страннее
Обновление Project Genie от Google DeepMind добавило Genie 4, связанные миры и галерею для переработки работ сообщества
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram