Сможет ли план Абдула Эль-Сайеда для ИИ-компаний предотвратить катастрофу?

Почему план появился сейчас

Демократ Эль-Сайед занимает необычное место в американской политике: его поддерживают прогрессисты, умеренные демократы относятся к нему сдержанно, а республиканцы в основном выступают против. При этом его план под названием ИИ Under Democracy может помочь наладить диалог между группами, которые обычно противостоят друг другу.

План представили за несколько недель до праймериз Демократической партии в Мичигане. Тогда Эль-Сайед, врач с небольшим политическим опытом, считался аутсайдером, а его взгляды казались плохо совместимыми с умеренными настроениями рабочего класса штата. Теперь его предложения по ИИ и опубликованный в этом месяце дополнительный план ИИ Under Control могут изменить это восприятие и предложить выход из политического тупика вокруг возможностей и рисков ИИ.

В 2023 году автор материала Джерел Эзелл выступал гостем в подкасте Эль-Сайеда America Dissected. Оба уроженцы Мичигана и специалисты в области общественного здравоохранения. Тогда они говорили о том, что мировым лидерам не хватает понимания повседневных проблем людей, а их решения нередко только усугубляют эти трудности.

Недавно Барак Обама призвал демократов объединиться вокруг регулирования ИИ на промежуточных выборах. Однако Эль-Сайед и многие прогрессивные демократы выступают за такое регулирование уже давно.

Что предлагает Эль-Сайед

Подход Эль-Сайеда к ИИ сформировался прежде всего благодаря его работе в здравоохранении, а не политической карьере. Его принцип — «сначала не навреди» — переносит идею клятвы Гиппократа в новую технологическую сферу, где ИИ-компаниям приходится искать баланс между прибылью и общественными интересами.

Одна из мер плана — заставить крупнейшие компании продать доли в ИИ-бизнесе. По мнению Эль-Сайеда, Google, Microsoft, Meta и Amazon слишком сильно влияют на передовые ИИ-компании, включая OpenAI и Anthropic. Из-за этого стремление получать доход может вступать в конфликт с общественной безопасностью.

Например, Microsoft, по оценкам, владеет 27% OpenAI, а Google — 14% Anthropic. Эти доли дают компаниям значительное влияние на решения партнёров. Согласно предложению Эль-Сайеда, технологическим гигантам пришлось бы продать инвестиции или отказаться от них в течение установленного переходного периода.

План также предусматривает регулирование дата-центров. Оно должно замедлить строительство новых объектов, помочь создавать рабочие места на местах, заморозить расходы жителей на коммунальные услуги и решить проблемы шума, загрязнения окружающей среды, общественного здоровья и качества жизни. Эль-Сайед особенно активно выступает против огромного дата-центра OpenAI и Oracle, который строят неподалёку от Энн-Арбора — города, где он учился в Мичиганском университете.

Противодействие строительству дата-центров в США усиливается. По результатам августовского опроса, строительство такого объекта в своём районе поддержал бы только один из девяти американцев. Предложение Эль-Сайеда отвечает на растущее недовольство: ограничить влияние ИИ и сдержать его известные и пока неизвестные экологические и социально-экономические последствия.

Источник: theguardian.com

Самая спорная, но, по мнению автора, необходимая часть плана — передать общественности право назначать или избирать простым большинством более половины членов советов директоров влиятельных ИИ-компаний: 50% плюс одно место. Это должно сделать планы компаний прозрачнее и дать американцам возможность блокировать решения, которые вредят общественным интересам, например строительство дата-центров или производство биологического оружия.

Спор об общественном контроле

Демократы и республиканцы могут поддержать более жёсткое регулирование и моратории на развитие ИИ. Но общественный контроль над компаниями — отдельный вопрос. Для многих передача частного бизнеса в общественный траст выглядит социализмом. Такая трактовка подпитывает обычную критику Эль-Сайеда со стороны республиканцев и нападки его соперника, республиканца Майка Роджерса, который ещё настойчивее пытается представить его беспомощным коммунистом.

При этом американские сообщества давно поддерживают общественную собственность на важные ресурсы — например, на водоснабжение, природный газ и электричество. Согласно июньскому докладу, около 69% взрослых американцев поддерживают передачу 50% акций ИИ-компаний в государственный фонд благосостояния, средства которого направляются на общественные нужды.

Такую модель предложил законодательно закрепить Берни Сандерс — самый известный сторонник Эль-Сайеда в Конгрессе. Автор считает, что со временем американцы могут всё благосклоннее относиться к этой идее.

Кто требует сдержать развитие ИИ

По мере приближения промежуточных выборов всё оживлённее идут споры о том, можно ли сдержать растущие риски ИИ федеральными мерами и стоит ли это делать.

Американцы ждут ответов от политиков, хотя 78% не одобряют работу членов Конгресса, а рейтинг одобрения Дональда Трампа ниже рейтинга неодобрения. Многие политики, похоже, не понимают масштаб рисков ИИ или относятся к ним безразлично. На этом фоне молодые кандидаты, знакомые с технологиями, например Эль-Сайед, могут предложить лидерство и ограничения. Он призывает приостановить выпуск самых мощных систем, запретить искусственный сверхинтеллект и создать выключатель для ИИ.

Противоположный пример — Трамп и другие представители администрации. Они активно высмеивают призывы замедлить быстрое развитие ИИ, называют тревогу вокруг него «обманом» и при этом настаивают на лидерстве США в этой сфере почти любой ценой.

Некоторые, в том числе представители Белого дома и инвесторы Кремниевой долины, связанные эффектом невозвратных затрат, по-прежнему будут оптимистично смотреть на ИИ. Но требования регулирования со стороны обычных людей по обе стороны политического спектра должны стать серьёзным предупреждением. Ещё один тревожный сигнал — руководители крупнейших ИИ-компаний, включая Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic, поддерживают идею «регулировать темп развития передовых моделей».

Автор считает, что решить эти вопросы поможет продуманная и сбалансированная политика общественной собственности.

Джерел Эзелл — исполнительный директор Center for ИИ and Everybody и доцент Чикагского университета.