Полиция Западной Австралии просканировала миллион лиц с помощью распознавания лиц и произвела 122 ареста в ходе испытаний системы

За время испытаний полиция трижды проводила операции на Королевском шоу в Перте. Там система просканировала 223 749 лиц, выдала 15 оповещений, привела к трём арестам и семи контактам с людьми из реестра сексуальных преступников.

Представитель полиции подтвердил, что среди 1,38 млн сканирований было девять ошибочных оповещений. Полиция рассчитала долю ошибок как 0,00065%.

На пресс-конференции в воскресенье комиссар полиции Западной Австралии Кол Бланш пояснил, что офицеры связались с каждым человеком, на которого система среагировала ошибочно. По его словам, никого из них не арестовали и никто не подал жалобу. В каждом случае полицейские поговорили с человеком и задали ему вопросы. Бланш назвал число таких оповещений очень низким, но признал, что оно не равно нулю. Он добавил, что полиция хотела бы избежать ошибок, но считает важным общаться с людьми так же, как если бы полицейский сам заподозрил, что перед ним разыскиваемый человек.

Бланш признал, что технология несовершенна и власти знали об этом до начала испытаний. При этом он заявил, что офицеры проверяли оповещения так же, как проверяли бы подозрение, высказанное прохожим.

Спор о доле ошибок

Правозащитники раскритиковали то, как полиция представила результаты. Исполнительный директор организации Civil Liberties Australia Билл Роулингс заявил, что полиция «сильно приукрашивает» ситуацию, называя долю ошибочных оповещений равной 0,00065%. По его мнению, для расчёта нужно учитывать, сколько арестованных в итоге будут осуждены.

Роулингс отметил, что реальную долю ошибок можно будет определить, когда все 122 арестованных предстанут перед судом. Если половину из них не осудят, сказал он, доля ошибочных результатов составит 50%. В заявлении он также подчеркнул, что полиция провела почти 1,4 млн сканирований без обоснованных подозрений.

Когда испытания только объявили, независимый надзорный орган штата по вопросам конфиденциальности — Управление уполномоченного по информации Западной Австралии (OIC WA) — заявил, что не участвовал в их проведении. Ведомство предупредило о «коллективном ущербе для приватности». У OIC WA запросили комментарий.

В воскресенье Бланш заявил, что испытания были посвящены ответственному применению современных технологий для выявления людей, представляющих опасность, при этом большинство жителей могли продолжать заниматься своими делами без последствий.

По правилам испытаний камеры на полицейских автомобилях с опознавательными знаками или рядом с ними сканировали лица в обозначенных общественных местах. Затем система сверяла их со списком для оповещений, составленным на основе полицейских баз данных. Полиция сообщила, что снимки людей, которых не было в списке, пикселизировались в реальном времени и сразу удалялись, не сохраняясь.

Испытания уже вызывали критику из-за опасений по поводу приватности и предвзятости алгоритмов. Эксперты предупреждают, что система может сильнее затрагивать маргинализированные группы: такие люди и без того непропорционально часто оказываются в полицейских списках наблюдения. Кроме того, в прошлом алгоритмы распознавания лиц чаще ошибались при работе с людьми с более тёмным оттенком кожи.

Полицейские фургоны для наблюдения больше не используются в общественных местах на время оценки результатов испытания

Источник: theguardian.com

Полицейские фургоны с системой наблюдения больше не выезжают в общественные места: полиция проводит внутреннюю оценку работы технологии и её влияния на местные сообщества. Ведомство также проверит меры защиты и выяснит, были ли выполнены все требования.