Данные украинских дронов подпитывают новый рынок по законам Дикого Запада

Как данные превращаются в ресурс

Украинские поля боя покрыты обломками дронов, которые стали одним из ключевых видов оружия современной войны. Но за этими обломками скрывается другой ресурс для оборонной отрасли. Данные, которые собирают беспилотные системы, переживут конфликты, в которых их применяли, и всё заметнее становятся частью инфраструктуры ИИ, влияющей даже на гражданскую жизнь.

Каждый полёт даёт тысячи точек данных: снимки, видео, команды оператора и другие записи. В совокупности они показывают, как машина и человек реагировали на постоянно меняющиеся обстоятельства.

Украина начала превращать этот опыт в ресурс. В январе её Министерство обороны объявило, что предоставит военным подрядчикам и коммерческим компаниям миллионы точек данных, собранных во время десятков тысяч полётов дронов. С тех пор доступ получили более 100 компаний и правительство Великобритании.

Для страны, ведущей войну, это быстрый способ привлечь финансирование и найти партнёров. Одновременно линия фронта превращается в действующую площадку для обучения моделей: хаос войны создаёт условия, которые компаниям по разработке ИИ трудно воспроизвести самостоятельно.

Вероятно, примеру Украины последуют другие страны и другие театры военных действий. Но отвечать за регулирование этой отрасли не может только государство, которое борется за выживание. Правовой вакуум должны совместно закрыть страны и компании, участвующие в развитии рынка.

Почему боевые данные ценны

Украинские поля боя не первыми стали источником записей для обучения и разработки моделей. Американские дроны над Сирией и Йеменом собирали данные, которые в конце 2010-х помогли создать первое поколение полуавтономной военной техники.

Теперь меняется масштаб доступа к этим данным: они используются для формирования более широкой экосистемы. Для оборонных компаний их финансовая ценность огромна. Боевые записи дают большие объёмы опыта машин, собранного в условиях, которые невозможно воспроизвести в лаборатории.

Наиболее полезные для обучения ИИ данные возникают в нестандартных ситуациях: когда пропадает видимость, глушится сигнал или оператору приходится импровизировать. Компании годами и тратят огромные суммы, чтобы собрать достаточно таких эпизодов и сделать модели устойчивее. Война создаёт их с частотой, которой невозможно достичь в контролируемых испытаниях.

Именно поэтому меняющаяся обстановка делает данные с дронов полезными далеко за пределами фронта. Коммерческий дрон для доставки или удалённого наблюдения может никогда не столкнуться с артиллерийским огнём, но ему всё равно придётся работать при неполной информации и непредсказуемом поведении людей. Война сжимает эту же проблему до гораздо более короткого периода.

Если сопоставить записи с действиями оператора, операционные данные превращаются в наборы для обучения. Боевые действия становятся коммерческим ресурсом.

Как замыкается цикл

Во многих конфликтах уже сформировался цикл, в котором записи с дронов используются для создания следующих поколений военной техники. Рынок продолжит расти.

Американская компания Enabled Intelligence, которая обрабатывает данные для использования в обучении ИИ, сообщила, что открыла для следующего поколения моделей более полумиллиона часов видеозаписей с украинских дронов. Компания указывает на возможное применение этих данных как в военных, так и в коммерческих системах.

Многие дроны, определяющие современный облик войны, изначально были гражданскими технологиями. Недавно их возможности резко расширили доступные коммерческие системы ИИ: недорогие машины теперь могут действовать автономно — поодиночке или группой — и подстраиваться под изменения вокруг них. Каждый полёт создаёт запись о том, с чем столкнулась система.

Эти данные необходимы для развития автономных систем. Лабораторные условия, в которых обычно обучают такие машины, могут имитировать отказ, но не сравнятся с реальной обстановкой поля боя, где ошибки несут настоящие риски.

Военные разведывательные программы почти десять лет хранят данные от насыщенных датчиками систем вроде дронов Predator и Reaper — в том числе через программу Project Maven. Однако доступ к этим данным оставался внутри оборонной сферы. Записи распространялись только по закрытым секретным каналам и использовались для создания новых вооружений, которые затем возвращались в ту же военную систему, где эти данные появились.

Теперь накопленный опыт передаётся гораздо более широкой сети разработчиков.

Цикл замыкается: коммерческие технологии, адаптированные для войны, производят данные, которые могут возвращаться в отрасли, откуда они пришли. Эти записи становятся частью инфраструктуры данных, на которую опираются государственные и частные организации.

Дроны, обученные работать в условиях глушения сигналов над Украиной, уже применяют в сельском хозяйстве. Они помогают фермерам наносить на карту и обследовать поля в районах, где нет сотовой связи, необходимой технологиям предыдущих поколений.

Риски нового рынка

Другие страны, вероятно, тоже начнут продавать данные с полей боя. К появлению такого рынка мир пока не готов.

Нежелательные игроки могут получить доступ к данным, однако этот риск уже частично снижают ограничения на покупки. Разведчики проверяют инфраструктуру потенциальных клиентов, пытаясь понять, могут ли записи попасть к противникам или другим опасным субъектам.

Обучающие данные создают и другую проблему — отслеживание происхождения. Перемещение коммерческих наборов данных можно проследить, если в них встречаются специально добавленные контактные сведения, появляющиеся через два шага после исходного покупателя. У данных для обучения ИИ происхождение исчезает, поскольку оно оказывается встроено в саму технологию.

Есть и ещё один риск: формируется экономика извлечения, в которой богатые страны, находящиеся далеко от опасности, получают выгоду от смертельных угроз, которые несут государства на передовой. Это может создать для рынка стимул поддерживать войны как бесконечные источники цифрового золота.

Существующие законы регулируют то, как военные могут вести войну. Но они почти ничего не говорят о ситуации, когда записи, созданные в бою, отделяют от оперативного контекста, превращают в данные и передают по лицензии компаниям, чьи продукты затем распространяются далеко за пределами места их создания.

Ответственность компаний, разрабатывающих такие системы, тоже не определена. Украина создаёт механизмы контроля доступа — о них говорится в недавно подписанном соглашении Великобритании и Украины об ИИ. Но ни одно правительство пока активно не регулирует, что происходит после того, как данные поглощает модель и она выходит на гражданский рынок.

Проблема согласия

В этих записях есть человеческие жизни. Солдаты и гражданские, попавшие на видео, не соглашались становиться учебным материалом для продуктов, которые могут продаваться спустя годы.

Тем не менее данные датчиков, записи камер и координаты гражданских, убегающих от удара дрона, теперь используются для того, чтобы будущие машины принимали решения.

Это затрагивает вопрос согласия. Люди, попавшие в записи — цели, операторы или случайные свидетели, — становятся частью обучающего материала. Автономные возможности, созданные на основе этих данных, не остаются на границе поля боя. Они переходят в другие военные и коммерческие системы, включая машины для доставки и сельскохозяйственную технику. Ошибки и допущения, заложенные в данных, перемещаются вместе с моделью и после её выхода в гражданскую жизнь.

Что нужно регулировать

Данные с поля боя нельзя считать обычным коммерческим материалом. Но сейчас нет ни ведомства, ни регулятора, у которого была бы юрисдикция над этой проблемой.

Пока такого органа нет, правительства, предоставляющие доступ к оборонным данным, должны обращаться с ними как с контролируемой передачей вооружений:

Украина уже начала решать эту задачу. Программа Avengers Labs позволяет компаниям обучать модели на данных с поля боя, не предоставляя им прямого доступа к чувствительным базам. Но это решает только одну часть проблемы.

Правительства должны требовать раскрывать информацию о том, что модель обучалась на военных материалах, если позже её включают в гражданский продукт. Цель такого регулирования — сделать видимым путь данных от боевых действий к модели и затем к коммерческому товару.

Компании фактически добывают опыт. Солдаты не могут согласиться на то, чтобы их опыт использовали таким образом — как обучающие данные, создающие преимущество модели и в конечном счёте поддерживающие продукт, который применяют далеко от места войны.

Вопрос теперь не только в том, что технологические компании могут продавать для использования на войне. Важно и то, что они могут из неё извлечь.

Чтобы ограничить последствия этой новой отрасли, нужна система регулирования, которая будет отслеживать данные с поля боя на всём пути — от боевого применения к модели, а затем к коммерческому продукту.

Кори Алперт — исследователь Мельбурнского университета, изучающий влияние ИИ на демократию. Ранее он работал в Белом доме Джо Байдена.