Искусственный интеллект становится полноценным актором практически во всех сферах современной жизни человечества, не исключая войну. В некоторых странах именно военная сфера становится едва ли не приоритетным местом приложения возможностей ИИ, а заодно и полигоном для взаимного обучения как искусственного интеллекта, так и интеллекта работающих с ним военных. Обеим сторонам приходится учиться взаимодействию, чтобы через какое-то время оно не превратилось в противостояние.

Одним из пионеров использования ИИ в военной сфере становится Китай. Похоже, данная страна постепенно обгоняет главного конкурента в лице Соединённых Штатов. Сегодня армия Китая готовится к тому, что на поле боя люди и ИИ будут не просто взаимодействовать или сражаться, но и пытаться максимально обмануть друг друга.

Продай противнику фантом

Под лозунгом «войны против ИИ» Народно-освободительная армия Китая (НОАК) обучает военных сражаться с искусственной моделью так же, как и обычным солдатом противника. Уже сейчас они учатся обманывать искусственный интеллект, изменяя внешний вид боевой техники в «глазах» камер, радаров и тепловых датчиков для её ошибочной идентификации ИИ, передавать нежелательные или заражённые данные в системы связи противника и засорять его боевые компьютеры помехами. Командиры натаскивают подчинённых определять, когда ошибаются собственные машины. Цель проста — заставить вражеский военный ИИ преследовать фантомы и упускать реальную угрозу.

Удар по трём направлениям

НОАК рассматривает стратегию противодействия ИИ как триаду, нацеленную на данные, алгоритмы и вычислительную мощность. В мае газета PLA Daily описала данную концепцию в разделе «Панорама интеллектуальных боевых действий». В материале утверждается, что самый надёжный способ «взломать разведданные» — это атаковать все три направления сразу.

Во-первых, операции по борьбе с базами данных противника предполагают внедрение нежелательных данных, искажающих то, что на самом деле видят локаторы, датчики и системы наблюдения противника. Предлагается подбрасывание неприятелю искажённых примеров и неверных результатов тепловых и визуальных сигналов, считываемых им с китайской боевой техники. Такие действия могут осуществляться с помощью специальных покрытий и излучателей, имитирующих профиль другой платформы и даже вибрацию двигателя. Это нужно, чтобы ввести в заблуждение систему разведки, наблюдения и наблюдения с помощью ИИ.

Во-вторых, операции по борьбе с алгоритмами используют слабые места модели с помощью логических уловок и искусственно созданных входных данных. Цель — постоянно сбивать с толку алгоритмы ИИ, нарушая их сигналы и заставляя противника тратить время на бесплодные поиски.

В-третьих, атаки на вычислительные мощности противника должны включать в себя «жёсткие» кинетические и кибератаки по центрам обработки данных и каналам связи, атаки насыщения «мягкого уничтожения», которые заполняют боевое информационное пространство электромагнитным шумом, связывая ограниченные вычислительные ресурсы и засоряя циклы принятия решений.

Не угроза, а цель

В проведённом в 2024 году аналитиками НОАК исследовании перечислены методы «мягкого уничтожения» (загрязнение данных, обратный ход и состязательные атаки), которые манипулируют моделями машинного обучения.

При этом в комментариях экспертов НОАК по ИИ такое состязание представляется как противостояние алгоритмов в совместных операциях. Планировщикам предлагается обыгрывать вражеские алгоритмы, проверяя процесс принятия ими решений, искажая управляющие роями дронов сигналы и совершая неожиданные манёвры, чтобы сбить с толку системы, которым они обучены. Это нужно, чтобы обмануть вражеские датчики и модели, заставив их неверно идентифицировать цели.

Вместо того чтобы опасаться использования противником ИИ, НОАК определяет ИИ противника как набор целей и распределяет задачи по поражению каждой его части.

НОАК уже реализует данные идеи. В августе 2023 года полк БПЛА ВВС США добавил «настоящие и ложные цели» к учениям по демаскировке целей, заставив пилотов отличать ложные цели от настоящих. Аналогичным образом в рамках подготовки ПВО НОАК приоритетом теперь является проникновение на сверхмалых высотах. Исследования представляют такой бой как точку встречи ложных целей, обманных сигнатур и распознавания с помощью искусственного интеллекта.

В морской сфере исследование 2024 года указывает на разработку структуры для беспилотных подводных аппаратов, позволяющей обнаруживать и игнорировать акустические ловушки при атаке на надводные суда.

Доверять или игнорировать?

Авторы PLA Daily уделяют постоянное внимание человеческой части команды. В апреле издание предупреждало, что командиры могут скатиться в технологическую зависимость и усилить предвзятость, заложенную в обучающие данные. Средство от этого — научить командиров определять, когда стоит доверять ИИ, а когда нужно игнорировать его, добавляя сценарии обмана в симуляции. В первую очередь это военные игры с людьми и машинами, необходимые для того, чтобы операторы практиковались в выявлении плохих команд с советами от ИИ и их отмене.

В любом случае основой взаимодействия человека и боевого ИИ остаётся управление с участием человека. При этом человек должен играть роль оператора системы безопасности и морального арбитра.

Такую точку зрения в 2024 году поддержал генерал-лейтенант Хэ Лэй, призвав к жёстким ограничениям на использование ИИ в военное время и настаивая на том, чтобы решающие вопросы жизни и смерти оставались за людьми.

Китайский ответ боевому ИИ

Осознав роль ИИ в мышлении руководства НОАК, китайские компании начали выпускать продукты для противодействия ИИ в категориях физического обмана, радиоэлектронной борьбы и программного обеспечения:

• Huaqin Technology выпускает многоспектральный камуфляж, скрывающий радиолокационные, инфракрасные и визуальные сигнатуры;
• Yangzhou Spark предлагает маскировочные сети и костюмы, стелс-покрытия, радиопоглощающие материалы, дымогенераторы, имитаторы сигнатур и радиолокационные отражатели;
• JX Gauss рекламирует надувные полномасштабные ловушки для радиолокационных транспортных средств с дистанционно управляемыми подвижными частями;
• Chengdu M&S Electronics предлагает оборудование, генерирующее ложные сигналы целей, ловушки для радаров и симуляторы, воспроизводящие сигналы вражеских радаров и систем связи для дезинформации приёмников;
• Balu Electronics делает симуляторы глушения связи, создающие сложную электромагнитную обстановку и многоцелевые помехи.

В совокупности такие продукты поддерживают стратегию противодействия данным, размещая ловушки и обманывая системы наблюдения с ИИ, заставляя их фиксироваться на ложных сигналах.

Поставщики средств радиоэлектронной борьбы глушат каналы связи и сетевые соединения, следуя концепции НОАК по использованию вычислительных ресурсов для «мягкого уничтожения».

Насыщение спектра помехами и ложными сигналами вынуждает ИИ противника и его ограниченные вычислительные мощности тратить время и ресурсы, в то время как дружественные силы сохраняют чёткую картину.

Одновременно китайские технологические компании разрабатывают программное обеспечение для противодействия искусственному интеллекту. Tencent Cloud реализует масштабную программу «красной команды» по работе с моделями и предлагает инструменты для мониторинга и блокировки входных и выходных данных моделей, чтобы предотвратить внедрение уязвимостей, искажение данных и утечки. Защита моделей Qi’anxin и GPT-Guard добавляет инструменты для симуляции атак и отслеживания входных и выходных данных на предмет несанкционированного доступа, а RealSafe от RealAI автоматически создаёт тестовые случаи, которые пытаются обмануть модели, и проверяет их устойчивость. Такие инструменты, позиционируемые как средства защиты, оттачивают навыки оказания давления на алгоритмы противника.