Совет Meta велел удалить британские дипфейки, назвав меры «недостаточными»

Решения по двум видео

«Верховный суд» Meta по контенту постановил удалить с Facebook дипфейки британского политика и молодой мусульманки, а также усилить меры против изображений, созданных с помощью ИИ.

В первом видео советник Лейбористской партии в Шотландии якобы заявлял, что беженцам рады, даже если они насилуют местных женщин, поскольку белые люди делают то же самое. Наблюдательный совет решил, что Facebook не должен был оставлять эту публикацию на платформе.

Во втором ролике волонтёрка-мусульманка якобы давала советы по здоровью, одновременно выполняя нелепые упражнения или поедая вредную еду. Видео было создано с помощью ИИ и ложно изображало её действия. Совет постановил, что публикацию также нужно было удалить.

Наблюдательный совет заявил, что существующие меры Meta «последовательно и принципиально недостаточны» для борьбы с быстрым распространением дипфейков.

По словам сопредседателя совета Памелы Сан-Мартин, дипфейки всё чаще используют против политиков и обычных людей, чтобы преследовать женщин и заставлять их замолкать в публичных обсуждениях. Эти случаи, считает она, указывают на более широкую проблему: женщины, которые публично высказываются по общественным вопросам, непропорционально часто сталкиваются с травлей и дезинформацией. Meta и другие соцсети должны разработать более строгие правила против распространения дипфейков.

Видео с советником в Шотландии

Видеозапись с советником, чьё имя не названо, выглядела созданной с помощью ИИ: звук не полностью совпадал с движениями его лица.

Даже после того как наблюдательный совет напрямую обратил внимание компании на ролик, Meta решила, что он не нарушает правила публикации контента и не требует маркировки как созданный ИИ.

В записи в блоге, опубликованной в четверг, совет заявил, что видео нужно было удалить за нарушение правил Meta о разжигании ненависти. Публикация приписывала беженцам как группе преступное и хищническое сексуальное поведение, а не описывала действия отдельных людей.

Кроме того, ролику следовало присвоить метку «ИИ повышенного риска». Совет призвал Meta ужесточить меры против дипфейков.

Большинство членов совета считает, что Meta должна:

Совет рекомендовал Meta внести девять изменений в правила. Среди них:

Ролик о мусульманской активистке

В отдельном решении совет обязал Meta удалить с Facebook видео, созданное с помощью ИИ и высмеивающее молодую мусульманку из Европы. Она участвовала в кампании за улучшение просвещения о менструальном здоровье и снижение стигмы вокруг заболеваний, затрагивающих женщин и девочек из этнических меньшинств.

Поддельные видео и изображения с издевательствами над активисткой набрали в интернете десятки миллионов просмотров, в том числе на платформах Meta.

Совет отдельно рассмотрел ролик, где женщину показывали за нелепыми упражнениями и поеданием вредной еды. Он признал видео нарушением правил компании о травле и преследовании и рекомендовал удалить публикацию.

Также совет предложил Meta изменить определение «нежелательных изменённых изображений», чтобы оно охватывало дипфейки с частными лицами, которым приписывают слова или действия, которых они не произносили и не совершали.

Наблюдательный совет создала Meta в 2020 году как независимый арбитражный орган по вопросам контента на своих платформах. Meta запросили комментарий.