Инспекция полиции предупреждает: ошибки распознавания лиц грозят этническим меньшинствам незаконными арестами

Результат поиска — повод для проверки

Доклад Инспекции полиции Его Величества, опубликованный в среду, посвящён только ретроспективному распознаванию лиц: система сравнивает изображение с уже имеющимися фотографиями. Инспекторы отмечают, что этот способ считают менее спорным и менее сложным в применении, чем распознавание в реальном времени, которое используют для поиска подозреваемых.

При этом некоторые следователи не понимали, что результаты ретроспективного распознавания лиц — это оперативная информация, а не доказательства. Перед тем как принимать меры, полицейские должны проводить дополнительные проверки. Инспекторы обнаружили, что в отдельных случаях сотрудники слишком полагались на возможные совпадения и начинали расследование без достаточных подтверждений. Это может привести к ошибочной идентификации и аресту, а также подорвать доверие общества к технологии.

Проблема касается и самого алгоритма: он с большей вероятностью может ошибочно указать на представителей этнических меньшинств. Проверяющие также нашли случаи, когда пользователи загружали некачественные или неподходящие изображения для поиска — размытые фотографии и снимки с несколькими лицами. Такие изображения снижали вероятность получить надёжное совпадение.

Хранение фотографий и правила применения

Инспекторы предупредили и о фотографиях задержанных, которые должны были удалить, но сохранили. По оценке доклада, пробелы есть и в законодательстве: нормы не успели за изменениями технологии, а единой всеобъемлющей правовой основы для её применения нет. Из-за этого полицейским подразделениям сложнее определить, на каком основании можно использовать ретроспективное распознавание и какие меры защиты необходимы.

Главный инспектор полиции Его Величества Кэтрин Стоун заявила, что поддержка общества зависит от того, насколько ответственно применяется технология. По её словам, полиция должна показывать, что меры защиты работают, риски предвзятости и хранения данных контролируются, а решения по-прежнему принимают люди. Для сохранения доверия она считает необходимыми более ясные законы, единые национальные стандарты и усиление надзора.

Позиции полиции и правозащитников

Руководители полиции считают распознавание лиц следующим крупным шагом в борьбе с преступностью; критики видят в нём серьёзную угрозу гражданским свободам.

Джаслин Чаггар из организации Big Brother Watch назвала тревожным то, что сотрудники воспринимают результат распознавания как достоверное доказательство, а не как оценку вероятности. По её словам, это повышает риск, что невиновным придётся отвечать за преступления в городах, где они никогда не бывали. Чаггар также заявила, что полиция не фиксирует использование ретроспективного распознавания лиц: из-за этого человек может стать подозреваемым, не зная, почему его обвиняют. Она выступила против применения алгоритма при недостатке мер защиты и настроек, которые чаще приводят к ошибочной идентификации женщин, азиатских и чернокожих людей, а также против поиска по миллионам фотографий задержанных, хранящихся, по её словам, незаконно.

Бен Рассел, отвечающий за распознавание лиц в Национальном совете начальников полиции, заявил, что полиция намерена применять технологию этично, соразмерно и ответственно — для расследования преступлений, привлечения виновных к ответственности и защиты сообществ. Он добавил, что совет рад признанию инспекцией возможностей этой технологии.

Профессор Пит Фасси из Университета Саутгемптона, ранее консультировавший полицию по вопросам распознавания лиц, напомнил, что содержательная проверка решений ИИ человеком требуется законом. Однако, по его словам, в докладе приведены примеры, когда следователи принимали предложения системы без дополнительных проверок.

По оценке Dataist, ключевое ограничение технологии здесь — зависимость результата от качества исходных изображений и того, как сотрудники используют совпадения. Пока закон и правила хранения фотографий остаются неясными, одной проверки алгоритма недостаточно: необходимы дополнительные проверки со стороны полиции и человеческая оценка каждого потенциального совпадения.