Умные очки Meta уже сеют хаос в Индии

Шубнам собирали коробки перед переездом в новый дом, когда знакомый прислал им видео из Instagram. Ролик появился всего несколько часов назад, но был снят несколькими днями ранее — на весеннем протесте в Дели против законопроекта, который мог сузить юридическое признание трансгендерных людей в Индии.

На митинге к Шубнам, 38-летнему трансфеминному графическому дизайнеру и преподавателю, подошёл создатель роликов, известных провокациями и попытками вызвать гнев аудитории. Шубнам используют одно выбранное имя. Они были одеты в зелёное сари, с бритой головой. Создатель спросил, почему Шубнам носят «женскую одежду», а те попросили его уйти. Только после получения видео Шубнам поняли, что разговор записали на умные очки Meta, стилизованные под обычные очки Wayfarer.

Из записи сделали насмешливый ролик. Он собрал миллионы просмотров, а вместе с ними — трансфобные оскорбления, видео с реакциями и мемы, созданные ИИ. Затем запись распространилась из Instagram в X и YouTube. Копии остаются в интернете до сих пор.

Для Шубнам последствия оказались тяжёлыми. По словам дизайнера, одного видео, снятого без согласия, хватило, чтобы перечеркнуть два десятилетия самостоятельной работы над собственной жизнью и идентичностью. После этого Шубнам больше не выходили за пределы своего района в сари.

Эксперты предупреждают, что с распространением умных очков похожие ситуации затронут многих. Особенно остро проблема стоит в Индии, где скрытая съёмка и распространение изображений без согласия уже широко распространены.

В стране растёт число случаев киберпреследования, шантажа интимными материалами, дипфейков и других форм онлайн-насилия. При этом вероятность жёстких ограничений для технологий вроде умных очков невелика: индийские правоохранительные органы сами всё чаще используют инструменты наблюдения на базе ИИ, включая системы распознавания лиц и собственные умные очки с ИИ.

Неравный ущерб

По данным исследовательской компании International Data Corporation, умные очки входят в число самых быстрорастущих устройств на индийском рынке носимой электроники. Крупнейший оператор связи страны Reliance Jio заявляет, что позже в этом году выпустит конкурента очков Meta стоимостью менее $105. Последняя модель Meta стоит в Индии $420.

Главная проблема для приватности заключается в том, что эти камеры не похожи на камеры. Люди рядом могут не заметить, что их записывают. Исследователь Оксфордской школы бизнеса имени Саида Януш Свёрчиньский, изучающий приватность и новые технологии, говорит, что Meta фактически возлагает на окружающих ответственность за защиту от такого вмешательства.

Им приходится самостоятельно искать небольшой светодиод на дужке очков: он загорается во время записи. Meta также рассчитывает на ответственное поведение владельцев очков. Reliance Jio не ответила на запрос о мерах защиты приватности в своих будущих устройствах.

Создатели контента уже показали, как обходить световой индикатор очков Meta. В учебных роликах объясняют, как закрыть или иным способом скрыть светодиод, продолжая запись. В марте Wired рассказывал о рынке модификаций для «скрытого режима»: они физически отключают светодиод или полностью удаляют его.

Это упрощает тайную съёмку, причём риски распределяются неравномерно. По словам Свёрчиньского, женщины и другие маргинализированные группы сильнее страдают, когда незаметные устройства записывают и распространяют материалы без согласия. Именно это произошло с Шубнам.

Однако проблема шире: в Индии умные очки используют не только для превращения обычных людей в жертв вирусных «розыгрышей». Они становятся инструментом полицейского наблюдения.

В июне тысячи молодых людей вышли на протест против проблем в системе образования страны, и полиция Дели использовала умные очки Meta для их записи. Айше Гхош, бывшая президентка студенческого союза Университета Джавахарлала Неру, подала иск в Высокий суд Дели. В нём утверждалось, что полицейские непрерывно снимали протестующих в течение нескольких недель, в том числе во время еды и отдыха. Также, по утверждению Гхош, полиция угрожала отправить записи с участием студентов их родителям и в учебные заведения.

В июле генеральный солиситор Индии назвал дело в суде «судебным разбирательством для богатых». Вместо расследования жалоб студентов полиция открыла против них 10 уголовных производств — по обвинениям в участии в беспорядках, нападении на государственных служащих и повреждении государственного имущества. Несколько протестующих, поговоривших с MIT Technology Review на условиях анонимности, заявили, что не видели светодиод на очках Meta с ИИ, которые носили полицейские.

Съёмка без согласия

Meta настаивает, что её система защиты работает. Компания сообщила MIT Technology Review: каждая пара очков оснащена индикатором съёмки, который мигает во время создания фотографии или видео, которое можно сохранить или отправить. Отключить его нельзя: если кто-то закроет или повредит светодиод, камера отключится. Meta также утверждает, что владельцы должны соблюдать закон и уважать приватность окружающих.

По словам Самира Пармара, консультанта горячей линии Meri Trustline, такой подход рискован. Эта организация сотрудничает с Meta и YouTube и помогает людям, пострадавшим от онлайн-контента. В Индии нормы, связанные со съёмкой и согласием на неё, остаются предметом споров, а цифровая грамотность распределена неравномерно.

Пармар считает, что технические возможности устройств улучшаются быстрее, чем понимание согласия в стране. Из-за этого «невидимая камера» получает больше возможностей причинять вред. Сам факт нахождения в общественном месте часто воспринимают как подразумеваемое согласие на фотографирование или видеозапись. На горячую линию всё чаще обращаются люди, столкнувшиеся со скрытой съёмкой и распространением материалов без согласия.

Людей записывают в медицинских учреждениях, во время частных встреч и в общественных местах. Особенно уязвимы те, кому сложнее возразить или защитить себя. Пармар говорит, что нарушители либо травят таких людей, либо разыгрывают их, а затем записывают происходящее, выбирая тех, кто хуже понимает, как технологии могут использоваться для причинения вреда.

Индийское законодательство пока не учитывает этот новый тип угрозы, считает юрист и генеральный директор Internet Freedom Foundation Апар Гупта. Законы страны о вуайеризме и распространении интимных изображений создавались прежде всего для более очевидных форм насилия — например, тайной съёмки человека во время раздевания, посещения туалета или сексуального контакта.

Эти нормы ограниченно защищают людей, которых тайно сняли в обычном общественном месте, а затем использовали запись, чтобы их унизить.

Правила социальных сетей дают дополнительный путь для удаления вредных материалов, снятых умными очками, но это не быстрое решение. По словам Гупты, действующие в Индии нормы позволяют платформам реагировать на некоторые жалобы в течение 36 часов. Этого времени может хватить, чтобы видео скачали, скопировали и распространили на других площадках.

Проблема съёмки без согласия, вероятно, будет расти. По данным Financial Times, некоторые внутренние прототипы новых очков Meta оснащены функциями ИИ, которые непрерывно фотографируют и прослушивают окружение владельца. Позже очки могут «вспоминать», что видели или слышали.

Такие функции не будут включать внешний индикатор записи. Окружающие не смогут понять, собирается ли информация о них.

Meta сообщила, что намерена сохранить светодиод для активной съёмки — фотографирования и записи видео, — но не для функций ИИ, которые анализируют окружение владельца. Компания объясняет это тем, что постоянно мигающий индикатор со временем станет привычным и люди перестанут его замечать.

По мнению Вудроу Харцога, профессора права Бостонского университета, такая логика может навсегда оставить общество в положении догоняющего. Технологические компании способны распространять подобные инструменты быстрее, чем общество успевает осмыслить угрозу. К тому времени, когда люди адаптируются, технология уже успевает стать нормой.

Для Шубнам опасность заключается не только в том, что люди привыкнут к постоянной записи. Они могут привыкнуть видеть версии самих себя, которые никогда не выбирали показывать миру.

Шубнам говорят, что навязанное окружающими понимание человека через чужой сюжет, который он не создавал и на который не соглашался, лишает его контроля над тем, как его воспринимают другие.