ИИ-картинки множатся, угроза выборам вызывает тревогу: «Как избирателям понять, что правда?»

Мотли Брум назвала эту историю печальным свидетельством состояния демократии и политической дискуссии. По её словам, поддельное изображение также поддерживает устаревшие стереотипы о женщинах на руководящих должностях.

Шесть лет назад, когда Мотли Брум впервые стала мэром пригорода Атланты, политическому противнику для создания компрометирующего изображения политика потребовались бы хотя бы базовые навыки работы с графическим редактором. Теперь достаточно компьютера и промта для генератора изображений с ИИ.

Опрос, проведённый в середине июня цифровым маркетинговым агентством Rad Campaign и организацией Women Who Tech, которая поддерживает женщин-предпринимателей, показал: около 71% респондентов беспокоятся, что созданные ИИ дипфейки и дезинформация повлияют на выборы. Двое из трёх участников опроса опасаются, что ИИ будут использовать для сексуализации женщин.

Основательница Rad Campaign и соосновательница Women Who Tech Эллисон Капин отметила, что американцев сильнее тревожит использование ИИ для создания дипфейков, дезинформации о выборах и сексуализации женщин и детей, чем его влияние на рабочие места или экономику.

Администрация Трампа регулярно прибегает к изображениям, созданным с помощью ИИ. В январе официальный аккаунт Белого дома в социальной сети X опубликовал изменённое изображение Некимы Леви Армстронг. Её арестовали в связи с акцией протеста, сорвавшей церковную службу в Сент-Поле, штат Миннесота.

На исходном снимке агент Министерства внутренней безопасности спокойно сопровождал Леви Армстронг. В изменённой версии она выглядела плачущей, а её кожа была затемнена. Позже заместитель директора по коммуникациям Белого дома Кейлан Дор назвал изображение «мемом».

В феврале с пародийного аккаунта в X начали распространять поддельные снимки мэра Нью-Йорка Зорана Мамдани и его матери рядом с опозоренным финансистом Джеффри Эпштейном. Reuters разоблачило изображения с помощью инструмента Google SynthID. Однако к тому времени другие аккаунты уже перепубликовали их как подлинные, подпитывая теории заговора.

По словам Капин, хотя людей серьёзно беспокоят возможные экономические последствия применения ИИ, страх перед дипфейками, которые сексуализируют женщин и детей или влияют на выборы, примерно втрое сильнее опасений за рабочие места.

Источник: theguardian.com

Как избирателям отличить правду

Сенатор-демократ от Джорджии Рафаэль Уорнок рассказал в опубликованном на Facebook видео, что в сети распространялись дипфейки, на которых его ложно изображали с проблемами со здоровьем, с кучей внуков, которых у него нет, и с густой шевелюрой. Последнее, по его словам, было забавно, хотя и вызывало беспокойство.

Уорнок предупредил: по мере развития этих инструментов отличать факты от вымысла будет всё труднее. По его словам, злоумышленники уже стараются разделить людей и запутать их. Сенатор задался вопросом, как избирателям понять, что правда, если за несколько часов до выборов кто-то создаст страницу с помощью ИИ, разместит там поддельные изображения и истории о кандидатах.

Уорнок входит в группу сенаторов-демократов, которые моделируют возможные политические ответы на сценарии вмешательства в выборы. Один из главных сценариев — дезинформация с поддельными изображениями и видео, распространяемыми через социальные сети.

На прошлой неделе уходящий с поста сенатор-республиканец от Луизианы Джон Кеннеди предложил законопроект, который обязал бы компании, работающие с ИИ, устанавливать «выключатель» для вышедшего из-под контроля ИИ. Сенатор-республиканец от Кентукки Рэнд Пол заблокировал инициативу, заявив, что принимать её преждевременно без дополнительного участия отрасли.

Лидер демократического меньшинства в Палате представителей Хаким Джеффрис ранее в этом месяце заявил в интервью SiriusXM, что правительству следует срочно взяться за регулирование ИИ. Он призвал установить защитные меры от злоумышленников и вредоносных действий и назвал эту задачу приоритетной.

Джеффрис также напомнил, что в прошлом году республиканцы пытались запретить штатам самостоятельно регулировать ИИ. Такое положение включили в масштабный законопроект One Big Beautiful Bill, но в Сенате поправка провалилась при голосовании: 99 сенаторов высказались против, один — за.

Законодатели штатов тоже обсуждают регулирование ИИ на фоне широкой двухпартийной критики. В некоторых штатах уже приняты законы, подобные закону Теннесси Ensuring Likeness Voice and Image Security Act, известному как Elvis Act. Он защищает и политиков, и жителей от клонирования голоса с помощью ИИ и копирования цифрового образа. Закон опирается на право на публичное использование образа, развитое в Теннесси благодаря музыкальной индустрии Нэшвилла.

В большинстве штатов закон требует чётко сообщать, если политическая кампания с помощью ИИ изменяет речь, внешность или действия чиновника либо кандидата. Джорджия к их числу не относится.

Законодатели Джорджии начали обсуждать меры против дипфейков и предлагать соответствующие законопроекты в 2024 и 2025 годах, но закон пока не приняли.

Мотли Брум считает, что её могли атаковать политические противники, которым не нравилась её работа на посту бывшего президента Ассоциации муниципалитетов Джорджии. Она сказала, что старалась как можно лучше представлять интересы Колледж-Парка и не позволит интернет-троллям поколебать её решимость.

Мэр допускает, что может обратиться в суд на основании действующего в Джорджии закона о клевете. Но, отвечая на вопрос о том, что должны делать законодатели, она сделала паузу: по её словам, необходимо учитывать защиту свободы слова Первой поправкой к Конституции США.

Мотли Брум считает, что за подобные атаки должны наступать последствия. Она надеется, что законодатели найдут баланс между защитой Первой поправкой и правом человека не становиться мишенью полностью ложных обвинений. По её словам, власти штатов и федеральное правительство должны тщательно обдумать решение: нынешние случаи — лишь верхушка айсберга.