Бывший авиадиспетчер в ужасе: новая ИИ-система будет галлюцинировать и вызовет катастрофу

Что известно о SMART

В эфире News Nation Тодд Шеридан Йири заявил, что система Strategic Management of Airspace, Routes and Trajectories, или SMART, пока остаётся недостаточно понятной авиационному сообществу. Специалисты по-прежнему задают базовый вопрос: для чего именно её будут использовать.

По словам Йири, от ответа зависит оценка рисков для безопасности полётов. SMART может выполнять роль инструмента прогнозирования, а может подменять решения человека и предлагать предписания по управлению воздушным движением.

Если система будет указывать, как разрешать конфликты на аэродромах, особенно в загруженных аэропортах, это создаст отдельную проблему. Управление воздушным движением происходит в постоянно меняющихся условиях: нельзя просто загрузить данные и рассчитывать, что они останутся актуальными. Йири хочет понять, как именно собираются применять SMART, но пока скептически оценивает её пользу и призывает проявлять осторожность.

Опасность галлюцинаций

На вопрос о главной угрозе для системы Йири ответил одним словом — галлюцинации. Он напомнил, что ИИ может выдавать неточные и непроверенные сведения, поэтому необходимо заранее определить источники данных.

Если система получает информацию, например, из расписаний авиакомпаний, это одна ситуация. Но в любом случае оператор должен иметь возможность отменить решение SMART. Право на такое вмешательство, по мнению Йири, должно принадлежать диспетчеру, который находится на дежурстве.

Сначала — симулятор

Первый «мягкий запуск» SMART планируют провести на крайне загруженном аэродроме в районе агломерации Вашингтона. Йири считает, что внедрение системы в любом формате, кроме симулятора, станет проблемой.

Сначала SMART необходимо проверить на сценариях, максимально похожих на реальные. Пока таких испытаний не проведено, трудно говорить о том, чтобы полагаться на информацию системы во время работы в реальном времени. Йири также отметил, что специалисты пока многого не знают и не должны выяснять это уже в ходе происходящей в аэропорту реальной ситуации.

Сбой связи усилил вопросы

Планы по запуску SMART появились на фоне крупного сбоя авиационной связи, произошедшего в понедельник. Рядом с Филадельфией одновременно отказали основная телекоммуникационная линия и её резерв. Из-за этого сотни самолётов на восточном побережье задержались на несколько часов.

Сбой вновь поставил вопрос о том, сможет ли ослабленная система управления воздушным движением США и перегруженный персонал выдержать дополнительную нагрузку в виде экспериментальной системы ИИ.