Пентагон хочет получить $30 млн на создание детектора лжи с ИИ

Что войдёт в программу

Согласно бюджетному запросу Министерства обороны США, Polygraph+ должна «модернизировать федеральные технологии полиграфа и оценки достоверности» и повысить их точность и надёжность. Однако это может оказаться очередной попыткой с помощью технологий обнаруживать ложь, которая не даст надёжного результата.

Кири Котсоглу, профессор юридической школы Нортумбрийского университета в Великобритании, изучающий применение полиграфов в судебной системе, считает такой подход ошибочным: он сводит сложное явление к измеримым показателям.

Программа появляется на фоне напряжённой обстановки в Министерстве обороны. При министре обороны Пите Хегсете Пентагон всё чаще использует полиграфы, пытаясь найти источники предполагаемых утечек в прессу. В сентябре The New York Times сообщила, что проверку прошли около 50 офицеров Объединённого комитета начальников штабов после публикаций о сокращении запасов американского оружия во время войны с Ираном.

Polygraph+ будет курировать Агентство контрразведки и безопасности Министерства обороны США (DCSA), которое проводит федеральные проверки биографических данных. В бюджетном документе говорится, что новую технологию применят для:

Конгресс пока не утвердил финансирование. Какие именно технологии войдут в программу, неизвестно, а DCSA не ответило на запрос о подробностях.

Предыдущие прототипы

Некоторые ориентиры даёт другая инициатива Министерства обороны. В 2023 году его Подразделение оборонных инноваций (DIU) открыло приём заявок от компаний, чьи продукты можно использовать для обнаружения обмана.

Для создания прототипов выбрали две компании:

На снимке экрана с прототипом Altec, опубликованном DIU, видны отслеживание движения головы, температуры кожи лица и активности пор. Presage Technologies и Altec Research не ответили на запросы о комментариях. DIU также отказалось от комментариев.

Altec Research создала прототип, который отслеживает движения головы, температуру кожи лица и активность пор

Источник: technologyreview.com

Как работает обычный полиграф

Современный полиграф почти не изменился с момента изобретения устройства в 1920-х годах. Экзаменаторы измеряют кровяное давление, пульс, дыхание и потоотделение, а затем определяют, лжёт ли человек.

Для этого они сравнивают физиологическую реакцию на базовые вопросы вроде «Небо голубое?» и целевые вопросы вроде «Совершали ли вы когда-нибудь преступление?». По различиям между реакциями экзаменатор судит о достоверности ответов.

Федеральные ведомства проводят десятки тысяч таких проверок в год при найме сотрудников. При этом полиграф неоднократно подвергался критике, а его результаты редко принимают в судах.

В 1983 году Управление по оценке технологий Конгресса США пришло к выводу, что доказательств в пользу использования полиграфа для проверки сотрудников очень мало. В 2003 году Национальный исследовательский совет США (NRC) назвал доказательства его эффективности «в лучшем случае слабыми».

Люди без технической помощи распознают ложь чуть более чем в половине случаев. Американская ассоциация полиграфологов утверждает, что точность полиграфа составляет от 80 до 94%. Но в отчёте NRC за 2003 год отмечалось: даже при такой точности проверка может приводить к большому числу ошибок.

В Министерстве обороны США работают 2,8 млн человек. Если применить к ним несовершенную систему, она может ошибочно обвинить десятки тысяч людей.

Есть и другие проблемы:

Обычно человек искусственно усиливает физиологическую реакцию на базовые вопросы — например, наступает на спрятанную в обуви булавку.

Софи ван дер Зе, доцент Эразмусского университета в Роттердаме, изучающая обнаружение обмана, считает, что полиграф можно обойти, если знать принцип его работы. По её словам, главный эффект устройства связан с сдерживанием: люди нередко признаются ещё до начала теста. Но это работает только в том случае, если они верят в возможности полиграфа.

Почему новые методы тоже не сработали

За последние десятилетия предпринимались попытки создать другие детекторы лжи — от тепловых камер и систем отслеживания зрачков до сканирования мозга. За пределами лабораторий ни одна из этих технологий не дала надёжных результатов.

Проблема носит структурный характер: не существует единого признака лжи, который одинаково проявлялся бы у всех людей и в любой ситуации. По словам ван дер Зе, универсального «носа Пиноккио» по-прежнему нет.

Теоретически ИИ может улучшить полиграф, если найдёт в данных закономерности, которые не замечают экзаменаторы. Алгоритмы также могут использоваться для мультиаспектного обнаружения обмана: система объединяет несколько измерений и формирует общий показатель вероятности лжи, который человеку сложнее обойти.

Ван дер Зе выделяет три процесса, на которых пытаются сосредоточиться системы обнаружения лжи:

Современный полиграф учитывает только один из этих аспектов. Объединение методов, рассматривающих все три направления, теоретически может повысить результативность.

Подобная идея появилась не сейчас. В 2000-х годах исследователи Манчестерского столичного университета разработали систему Silent Talker, которая вычисляла показатель обмана по видеозаписи. Позже её включили в финансируемую Евросоюзом экспериментальную программу iBorderCtrl.

В США проект AVATAR объединял отслеживание взгляда, анализ голоса и распознавание движений тела для использования на пограничных переходах. Все эти проекты со временем практически исчезли.

Сомнения в Polygraph+

Котсоглу считает, что объединение ИИ с полиграфом соединяет недостатки обоих подходов: к сомнительной обоснованности полиграфа добавляется неопределённость алгоритмов.

Даже если машинное обучение найдёт ранее неизвестные закономерности в физиологических данных, оно не сможет надёжно связать их с ложью, поскольку отсутствует достоверная основа для сравнения.

Мэрион Освальд, профессор права, которая вместе с Котсоглу писала о применении полиграфов в судебной системе, отмечает: даже при наличии всех записей полиграфных проверок невозможно узнать, были ли их результаты правильными.

Она опасается, что новые системы обнаружения лжи, как и обычный полиграф, будут использоваться скорее как психологический инструмент, чем как научный метод.

По мнению Освальд, проект выглядит реакцией нынешней администрации на обеспокоенность утечками и предполагаемым отсутствием лояльности. Детектор лжи могут применять как угрозу — чтобы запугивать людей и вынуждать их признаваться, а не для получения достоверной информации.