Как пакет чипсов вызвал тревогу
Инцидент произошёл вечером 20 октября прошлого года, после тренировки по футболу. По иску, тренер раздал команде пакеты Doritos. Ти-Ален, тогда учившийся в выпускном классе, взял несколько пакетов и вместе с друзьями ждал машину у столов для пикника. К школе подъехали шесть полицейских машин с включёнными проблесковыми маячками. Многие полицейские достали оружие, а подростки подняли руки.
Система Omnilert Gun Detect анализирует записи камер наблюдения и ищет признаки огнестрельного оружия. В тот вечер она отметила пакет чипсов как оружие с вероятностью 90%. По утверждению истцов, сигнал продолжал поступать даже после того, как сотрудники школы и местная полиция просмотрели изображение и поняли, что тревога ложная.
Подростки утверждают, что были потрясены и опасались за свою жизнь, когда вооружённые полицейские остановили их, приказали встать на колени, надели наручники и провели обыск. Один из офицеров, уходя, якобы поблагодарил их за то, что они не убежали, и добавил, что иначе возникла бы серьёзная проблема.
Что говорится в иске
Иск подан против Omnilert, директора школы, полиции округа Балтимор, школьного совета и отдельных полицейских. Истцы считают, что их незаконно задержали и обыскали из-за ошибок технологии и людей.
Компания рекламирует систему как надёжную и обещает, что она помогает уменьшить число ложных срабатываний. Однако, как говорится в иске, Управление генерального инспектора по вопросам образования Мэриленда установило, что более 99% сигналов OGD в государственных школах округа Балтимор были ложными и не требовали вмешательства полиции.
Истцы также включили в материалы дела сообщения директора школы коллегам-администраторам. По их словам, она отнеслась к случившемуся легкомысленно, используя эмодзи смеющегося лица, и не извинилась перед учениками. Один из полицейских, как утверждается, выругался в адрес системы Omnilert, а его коллега пошутил, что на территории школы следует быть осторожнее, особенно если держишь в руках что-то вроде пакета чипсов.
Подростки не сочли шутки смешными. По иску, они жаловались на боль от туго затянутых наручников и длительное эмоциональное потрясение.
Последствия для учеников
Ти-Ален рассказал, что после задержания больше не чувствует себя в безопасности, когда ждёт машину или остаётся в школе после занятий. Теперь он часто платит за поездку домой, чтобы не ждать друзей или родственников.
Фрейда Уинфилд, мать Кита — одного из истцов, — ехала забрать сына и его друзей, когда их задержали. Она заявила, что дети не должны подвергаться такой опасности, ожидая мать у собственной школы.
Omnilert, директор школы, полиция округа и школьный совет не ответили на запрос The Guardian о комментарии. Ранее представитель Omnilert сообщил Baltimore Banner, что компания изучает иск и сожалеет о страхе, который испытали подростки и их семьи, а также понимает, почему они хотят получить ответы. Представитель округа Балтимор сказал The New York Times, что округ не может комментировать текущий судебный процесс.
По оценке Dataist, дело показывает, что последствия ложного сигнала зависят не только от точности системы, но и от того, как на него реагируют сотрудники школы и полиция. Утверждение в иске о том, что более 99% сигналов были ложными, делает особенно важным вопрос о том, какие проверки должны предшествовать вооружённому задержанию.
Читайте также
Война за ИИ-чипы в США набирает обороты самым нелепым образом
OpenAI впервые допустила четырёх независимых аудиторов к своим ИИ-системам на месте
Сатья Наделла: ИИ-агенты изменят экономику интернета
В рамках «Project Exponential» KPMG поставила ИИ-агентов рядом с аудиторской командой — и те глубже разбирались в отдельных вопросах
Anthropic, по сообщениям СМИ, оценит акции при IPO в $83 — выше прогнозируемого диапазона
Почему потрясения в Nvidia вряд ли повлияют на IPO Anthropic
Австралию и так считают самой закрытой демократией в мире. Новые законы могут усугубить ситуацию
Даже чиновники Трампа не ждут, что его поездка в Китай продвинет диалог об ИИ
SEC расследует нераскрытые продажи Nvidia, связанные с Китаем
Банки и АНБ признали: масштабные сбои действительно вызвал ИИ
ИИ подрывает всю программную инфраструктуру, на которой держится мир
Сэма Альтмана уже не смущает, что в новом фильме его сыграет Эндрю Гарфилд: его жизнь и так страннее
Обновление Project Genie от Google DeepMind добавило Genie 4, связанные миры и галерею для переработки работ сообщества
Почему дообучение длится дольше, чем следует из числа операций с плавающей точкой?
После IPO Amazon и Google будут владеть почти 30% Anthropic вдвоём
«Просто нелепо»: знаменитый философ спорит с идеей сознания у ИИ
Microsoft заменяет сторонние ИИ-модели в своих продуктах более дешёвыми собственными разработками
ИИ-функция Google в поиске получила собственный режим инкогнито
За кулисами первой общей встречи Nvidia после ухода Дженсена Хуанга: повышение зарплат и больше акций
OpenAI: её модели добавили год оптимизации чипов поверх инженерной работы AMD
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram