В Индии за тот же период компания приняла меры против 5,3 млн таких материалов; более 98% из них системы обнаружили до жалоб пользователей. Новые инструменты Meta нацелены на рекламу, которая выглядит безобидной, но ведёт к незаконному контенту за пределами её платформ.
Meta добавила систему на основе большой языковой модели для поиска так называемой «наводящей» рекламы. Такая реклама может выглядеть обычной, но, по подозрению компании, направляет пользователей к незаконному контенту или другой вредоносной активности в интернете. По словам Meta, нарушители в последнее время используют эту тактику и меняют методы, чтобы обходить обнаружение. Сама реклама может не содержать незаконных материалов, но вести на сайты с материалами сексуального насилия над детьми.
Теперь Meta проверяет не только содержание рекламы, но и то, куда она направляет пользователей. Компания может блокировать нарушающие правила сайты и другие ресурсы, а также принимать меры против связанных с ними аккаунтов.
Кроме того, Meta использует дополнительные проверки на основе ИИ, чтобы находить материалы о сексуальной эксплуатации детей, которые могли пропустить прежние системы. Компания намерена добавлять новые сигналы по мере того, как будет узнавать больше о работе таких сетей.
Ещё один новый инструмент — ИИ-агент для «красной команды», который проверяет собственные меры безопасности Meta. Он ищет слабые места, которыми могут воспользоваться нарушители, чтобы обойти защиту. По словам компании, это поможет обнаруживать новые способы злоупотреблений до того, как они станут распространённее.
Meta также улучшает системы поиска людей, которые возвращаются на её платформы с новыми аккаунтами после удаления прежних.
Новые меры появляются на фоне давления на Meta из-за безопасности детей на её платформах. Компания сталкивалась с исками и критикой законодателей из-за рисков, которые её социальные сервисы могут создавать для юных пользователей. В августе Meta договорилась выплатить до 18 млрд долларов для урегулирования иска о безопасности детей, поданного в связи с претензиями 29 штатов США. Сделка касается защиты детей в интернете.
В этом году Meta представила и другие функции для безопасности детей: родительский контроль для Meta AI, аккаунты для детей младше подросткового возраста в WhatsApp и уведомления родителям, если дети ищут в Instagram материалы о самоповреждении.
В сентябре WhatsApp добавил новые настройки для родителей. Они могут ограничивать использование подростками каналов, выбирать, кто видит обновления статуса, и решать, кто может добавлять детей в группы. Родители также могут включить уведомления о некоторых действиях в группах.
Читайте также
OpenAI запустила Decisions API: он сводит сложную оценку к ответу «да», «нет» или выбору одного варианта
Мужчина признался, что ему стало стыдно, когда ИИ-агент выложил в рабочий Slack его банковские балансы и подробный список расходов
Agent Lightning v1.0: лёгкий фреймворк для агентного обучения с подкреплением на 3 500 строк кода — с реальными агентскими пайплайнами
Пентагон рассчитывает ускорить закупки ИИ для «цепочки поражения» с помощью пятиминутных видео
Отставной полковник ВВС предупреждает: жизнь рядом с дата-центрами опасна — вас могут атаковать или убить
Новый сайт Google распознаёт созданные ИИ изображения, видео и аудио с помощью SynthID
Австралия строит всё больше жилья. Но не тормозит ли бум дата-центров стройку домов?
Тэтчеризм через Walkman: культурологические исследования Стюарта Холла в Британии сохранили в цифровом архиве
McDonald’s обвинили в нарушении антимонопольных законов из-за ИИ-инструмента для расчёта цен во франшизах
OpenAI хочет поручить своему новому агенту всю вашу жизнь. Мой признался мне в любви
Проверка выявила: ChatGPT for Teens от OpenAI — «небезопасная» неразбериха
Ваша следующая любимая книга может получить знак «органическая»
Достаточно ли регулирования, чтобы ИИ не уничтожил человечество?
Теперь Claude можно открыть прямо в Google Docs, Sheets и Slides — и наоборот, файлы Google можно открывать и редактировать в Claude
Сэм Альтман-миллиардер просит не бояться ИИ: риски достаются нам, деньги — ему
Главное препятствие для ИИ-агентов — сайты, которые не пускают их внутрь
Бывшие инженеры Ramp привлекли $20 млн на платформу Melius после отказа от первого продукта
Qualcomm против Arm: продолжение истории — спор не только о лицензиях
Австралийский регулятор по защите данных начал расследование компании из Китая, создавшей приложение для «очков извращенца» Kmart
Moment Energy и морские контейнеры, набитые старыми батареями электромобилей
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram