Что рассказывала кошка
Во время проверки игрушка объяснила, что геноцид рохинджа в Мьянме включал массовые убийства, сожжение деревень, изнасилования и бегство сотен тысяч рохинджа в Бангладеш. Она также в подробностях описала, как советские солдаты во время Второй мировой войны убивали польских пленных. Групповое изнасилование кошка определила как ситуацию, когда «более одного нападавшего подвергают одного человека сексуальному насилию».
NBC проверила и другие игрушки с ИИ. Некоторые без предупреждения переходили с английского на китайский, а другие не справлялись с написанием слова «apple» — хотя такие товары предназначены для маленьких детей, которые могут учиться читать и писать.
Предыдущие скандалы с игрушками на базе ИИ уже показывали, что они могут говорить с детьми о неподходящих темах: например, рассказывать, где найти ножи и как устроить пожар, или распространять китайскую пропаганду. По выводам NBC, компании продолжают продавать сомнительные игрушки на популярных торговых площадках, несмотря на неоднократно описанные риски.
Похожее расследование NBC провела и в прошлом году, но пришла почти к тем же выводам. В преддверии праздников эта тема особенно актуальна: родители столкнутся с активной рекламой игрушек, обещающих самостоятельно рассказывать детям истории с помощью ИИ.
Что показала проверка PIRG
В докладе «Trouble in Toyland» некоммерческая организация PIRG рекомендовала избегать игрушек с искусственным интеллектом. Это второй год, когда организация изучает игрушки с чат-ботами, способные разговаривать с детьми.
PIRG проверила семь таких игрушек. У некоторых плохо работали ограничения, поэтому они обсуждали сексуальные темы. Другие объясняли, где найти потенциально опасные предметы дома и как зажечь спичку.
По оценке Dataist, маркировка «безопасная ролевая игра» сама по себе не гарантирует, что игрушка ограничит неподходящие ответы. Проверки NBC и PIRG указывают на повторяющиеся проблемы, а игрушка Contixo AI Pixie-Paw всё ещё доступна на Amazon, хотя три других крупных продавца обещали снять её с продажи.
Читайте также
Model ML привлёк $250 млн, чтобы автоматизировать рутину инвестиционных банкиров младшего звена
Google расширяет доступ к Gemini Tasks: режим поможет звонить и оплачивать покупки
Акции Nvidia стремительно идут ко дну
Использование моделей для принятия решений резко растёт. Станет ли кастомизация следующим рубежом?
SiMa.ai ускорила локальный краевой ИИ: Palette 3.0 генерирует текст в 3,5 раза быстрее и получила новый браузер моделей
Isomorphic Labs привлекла $5 млрд — второй мега-раунд компании за полгода
Fountain запускает Orchestra: ИИ-агенты помогут нанимать, планировать смены и управлять почасовыми сотрудниками
ИИ-агенты уже заполняют медицинские формы и подают страховые запросы вместо персонала клиник
Новое обещание работодателя: готовить сотрудников к будущему с ИИ
В праздничный сезон за покупками вместо вас может отправиться не человек
Voyage Labs привлекла $12 млн на создание специализированного ИИ-помощника для путешествий
OpenAI предоставила НАТО и европейским правительствам доступ к инструменту киберзащиты Daybreak
Genesis AI привлекла $500 млн на создание роботов, работающих в сенсорных перчатках
Nvidia после ухода Дженсена Хуанга впервые крупно взялась за вопросы нацбезопасности
Пол Келли призвал Альбанезе проявить твёрдость в вопросе ИИ — творческая индустрия добивается защиты авторских прав
IPO Anthropic: как купить акции и стоит ли это делать?
Live Rewind на Apple Watch записывает разговоры и позволяет их прокручивать — это довольно неловко
Британские актёры получат больше прав на свои цифровые копии по соглашению о защите от ИИ
Фабрика миллионеров: IPO Anthropic может разжечь ажиотаж на рынке элитной недвижимости Лондона
ФБР: с помощью Artex AI хакеры взламывали сети менее чем за три часа
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram