Мать в ужасе: ИИ Instagram выискивает в соцсетях личные данные о её маленьких дочерях

Что нашёл Meta ИИ

Робинс рассказала Futurism, что считала видео безобидным: лицо дочери было видно, но имя она не называла. По её словам, в старых публикациях тоже не было имён детей.

Когда женщина снова открыла ролик, Meta ИИ предложил ей спросить: Who’s the child passenger? — «Кто пассажир на заднем сиденье?»

Робинс, описавшая свой опыт в ставшем вирусным видео в Instagram, решила проверить, что ответит система. Meta ИИ назвал не только девочку из ролика, но и её сестру. Судя по всему, он сопоставил публикации на странице Робинс с записями на других платформах Meta за предыдущие годы. Многие сведения публиковала не сама мать, а родственники, в том числе бабушки и дедушки.

По словам Робинс, сначала она увидела целое досье на обеих дочерей, а затем система продолжила предлагать новые вопросы. На скриншотах, которыми женщина поделилась, каждый следующий вопрос был более личным.

Один из предложенных промтов звучал так: What are Kalie’s daughter’s ages? — «Сколько лет дочерям Кэли?»

В ответ Meta ИИ составил подробную разбивку по возрасту и временную шкалу, опираясь на «семейные публикации о днях рождения и объявления о рождении». Среди источников оказался пост на Facebook, где бабушка сообщала о рождении одной из девочек.

Другой ответ, также основанный на публикациях в Facebook, содержал вес одной из дочерей при рождении. На других скриншотах Meta ИИ предлагал спросить о жизни и интересах девочек.

Система связала их возраст с предполагаемым классом в школе. Робинс отметила, что в её городе всего одна школа, поэтому найти детей было бы несложно. Затем Meta ИИ предложил узнать:

В другом промте Meta предложила спросить: Where does Kalie Robins live? — «Где живёт Кэли Робинс?»

Во время поиска система сообщила, что пытается «точно определить местоположение Кэли Робинс». Затем она выдала несколько абзацев о том, где женщина, вероятно, живёт, используя в том числе публикацию на Facebook от 2018 года. В пересказе Meta ИИ говорилось, что пост поздравлял Робинс с важным достижением в жизни.

Система также предлагала вопросы о профессиональной жизни Робинс и её работе в сфере защиты психического здоровья. В ответах приводились сведения о трудовой истории самой женщины и её мужа.

Робинс наблюдала, как встроенный в Instagram ИИ использует публикации за многие годы и собирает из них подробное досье на неё, её семью и их жизнь. По словам женщины, ощущение тревоги становилось всё сильнее.

Что знала Meta

Аккаунт Робинс был открытым: она развивала аудиторию как автор материалов о путешествиях. Но знаменитостью или крупным блогером она не была — у неё было всего несколько сотен подписчиков.

Человек-исследователь, вероятно, тоже смог бы собрать похожий набор сведений, однако Meta ИИ сделал это за несколько минут.

Робинс считала, что осторожно относится к безопасности детей. Она старалась защищать их, но по мере того, как система показывала новые сведения, у неё появлялось ощущение, что она подвела дочерей, сама того не понимая.

Робинс называет себя «девушкой из 90-х» и рассказала Futurism, что пользуется платформами Meta с тех пор, как «впервые появился» Facebook. Она живёт далеко от большой семьи. Когда у неё и родственников появились дети, Facebook стал способом поддерживать связь, делиться важными событиями и наблюдать, как растут близкие. Именно такую связь Meta долгие годы представляла как предназначение своих социальных сетей.

Но за это время Робинс и её родственники, как и миллиарды людей по всему миру, оставили на платформах Meta множество фрагментов личной информации. В этом случае Meta ИИ быстро нашёл накопившийся за годы след и объединил его в подробное описание Робинс, её семьи и их повседневной жизни. Обычные публикации оказались источником большого объёма сведений.

После случившегося Робинс начала просить родственников удалить или скрыть материалы, которыми они делились в интернете. По её словам, этот процесс оказался эмоционально тяжёлым.

Несколько родственников плакали, просматривая и удаляя старые записи. Одна из бабушек назвала их своим альбомом и не понимала, почему теперь должна от него избавиться.

Робинс любит видеть фотографии племянницы и племянника и делиться снимками дочерей с родственниками, которые живут далеко и не могут часто их видеть. Родные комментировали, как дети выросли, и вся семья радовалась возможности наблюдать за их жизнью. Поэтому ей было тяжело видеть, как некоторые родственники плачут из-за исчезновения своих цифровых «альбомов».

Ответ Meta

Meta подтвердила, что Meta ИИ может искать сведения в собственных материалах пользователя и в открытой информации в интернете. Однако в этом случае компания признала, что функция поиска «не справилась».

В Meta заявили, что создали функцию для поиска дополнительных сведений о темах и публикациях, которые интересуют пользователя. Когда человек нажимает на предложенный промт, ответ строится на информации, к которой у него уже есть доступ.

При этом система не должна была предлагать вопросы о детях и личных данных в таком виде. В Meta сообщили, что уже исправили проблему.

Робинс призывает скрывать личные данные

На фоне развития ИИ и распространения новых технологий наблюдения — умных очков Meta, других носимых устройств и камер Flock — старые вопросы о технологиях и приватности стали особенно острыми.

Робинс надеется, что её история заставит другие семьи пересмотреть то, как они используют интернет. Если инструмент способен собрать разрозненные сведения в аккуратное досье с именем ребёнка, считает она, родителям нужно сделать такую информацию как можно труднее для поиска.