Полностью автономные судна. Управляемые искусственным интеллектом дроны. Как оперативная группа Военно-морских сил США прибегает к использованию готовой робототехники и искусственного интеллекта для подготовки к следующей эпохе противостояний.
Флотилия кораблей-роботов мягко покачивается в теплых водах Персидского залива, где-то между Бахрейном и Катаром, примерно в 100 милях от побережья Ирана. Я нахожусь на соседней палубе быстроходного катера береговой охраны США и, прищурившись, вижу что-то похожее на левый борт. Этим декабрьским утром 2022 года горизонт усеян множеством нефтяных танкеров, грузовых суден и крошечных рыбацких лодок, мерцающих на солнце. Пока наш катер огибает флотилию кораблей-роботов, я мечтаю о зонтике или хотя бы об облачке.
Роботам нет необходимости искать укрытия в тени или же испытывать нужду в других биологических удобствах в отличие от людей. Это очевидно по их конструкции. Некоторые напоминают типичные патрульные катера, вроде того, на котором нахожусь я, но большинство из них меньше, компактнее, опускаются ниже к воде. Один из них похож на байдарку на солнечных батареях. Другой похож на доску для серфинга с металлическим парусом. Еще один напоминает мне автомобиль Google Street View на понтонах.
Эти роботы были собраны здесь для участия в учениях, проводимых Оперативной группой 59, входящей в состав Пятого флота ВМС США. Группа 59 специализируется на робототехнике и искусственном интеллекте — двух быстро развивающихся технологиях, определяющих будущее войны. Миссия оперативной группы 59 состоит в том, чтобы быстро интегрировать эти технологии в военно-морские операции, чем она и занимается, приобретая новейшие технологии у частных подрядчиков и соединяя их в единое целое. В учениях в Персидском заливе приняли участие более десятка автономных платформ — надводных кораблей, подводных аппаратов, беспилотных летательных аппаратов. Данные платформы должны стать глазами и ушами Оперативной группы 59: Они будут наблюдать за поверхностью океана, используя камеры и радары, прослушивать под водой с помощью гидрофонов и осуществлять обработку собранных данных с помощью специальных алгоритмов сопоставления с образцами, которые позволяют отличать нефтяные танкеры от контрабандистов.
Человек, стоящий на быстроходном катере привлекает мое внимание к одному из суден, похожему на доску для серфинга. Корабль резко сворачивает свой парус, словно складной нож, и ускользает под воду. Это судно под названием «Тритон», может быть запрограммировано таким образом, что, когда его системы чувствуют опасность, оно пропадает под водой. Мне кажется, что такое «исчезновение» могло бы оказаться полезным в реальном мире: за пару месяцев до этих учений иранский военный корабль захватил два автономных судна, называемых парусными дронами, которые не способны погружаться. Военно-морскому флоту пришлось вмешаться, чтобы вернуть их обратно.
«Тритон» способен оставаться под водой до пяти дней, всплывая в те моменты, когда на берегу никого нет, чтобы зарядить аккумулятор и связаться с базой. К счастью, моему скоростному катеру не придется болтаться здесь так долго. Он запускает свой двигатель и с ревом возвращается к причальному отсеку катера Береговой Охраны длиной в 46 метров. Я направляюсь прямиком на верхнюю палубу, где, наверняка, под навесом стоит стопка бутилированной воды. Проходя мимо, я рассматриваю тяжелые пулеметы и минометы, направленные в сторону моря.
По мере того, как наше судно возвращается на базу в Манаме (Бахрейн), палуба постепенно остывает на ветру. В пути я вступаю в беседу с членами экипажа. Мне хочется поговорить с ними о боевых действиях на Украине и активном использовании там беспилотников – от любительских квадрокоптеров, оснащенных ручными гранатами, до полноценных военных систем. Я хочу расспросить их о недавней атаке на военно-морскую базу в Севастополе, в которой участвовало несколько беспилотных катеров украинской сборки, оснащенных взрывчаткой, и о публичной благотворительной кампании по сбору средств на строительство новых катеров. Однако мой сопровождающий, резервист из медиа-компании Snap оповестил, что эти вопросы обсудить не получится, поскольку Пятый флот действует в другом регионе, и соответственно у членов Оперативной группы 59 не так много информации о том, что происходит в Украине. Вместо этого мы ведем беседы о генераторах изображений на основе искусственного интеллекта и дискутируем о том, могут ли они оставить художников без работы, а также говорим о том, как гражданское общество, похоже, достигает переломного момента в использовании искусственного интеллекта. По правде говоря, мы еще не знаем и половины всего этого. Прошел всего день с тех пор, как OpenAI запустила ChatGPT, чат-бот, который должен стать сенсацией в Интернете.
Вернувшись на базу, я направляюсь в Центр управления робототехникой, где группа людей следит за работой размещенных на воде датчиков. ЦУР представляет собой помещение без окон, в котором расставлены в несколько рядов столы с компьютерами. Помещение достаточно безликое, за исключением стен, на которых можно увидеть вдохновляющие цитаты таких выдающихся личностей, как Уинстон Черчилль и Стив Джобс. Здесь я знакомлюсь с капитаном Майклом Брассером, руководителем оперативной группы 59, загорелым мужчиной с бритой головой, приветливой улыбкой и матросским прищуром. (На сегодняшний день Брассер уже уволился из ВМС.) Он расхаживает между столами и бодро объясняет, как работает ЦУР. «Здесь собираются все данные, поступающие от беспилотных систем, и мы используем искусственный интеллект и технологии машинного обучения для достижения действительно впечатляющих результатов», – говорит Брассер, потирая руки и улыбаясь.
Мониторы компьютеров мерцают. Искусственный интеллект оперативной группы 59 распознает подозрительные судна в этом районе. Сегодня он уже зафиксировал несколько кораблей, которые не соответствовали своему идентификационному сигналу, что побудило флот присмотреться к ним повнимательнее. Брассер показывает мне интерфейс, находящийся в данный момент в стадии разработки, который позволит его команде выполнять многие из этих задач на одном экране – от просмотра изображения с камеры беспилотного корабля до перенаправления его ближе к месту действия.
Брассер и другие сотрудники базы подчеркивают, что тестируемые ими автономные системы предназначены только для зондирования и обнаружения, а не для вооруженного вмешательства. «В настоящее время Целевая группа 59 сосредоточена на повышении уровня видимости. Все наши действия направлены на обеспечение поддержки кораблей с экипажами», – говорит Брассер. Однако некоторые корабли-роботы, участвующие в учениях, демонстрируют, насколько коротким может быть расстояние между невооруженными суднами и вооруженными. Это лишь вопрос смены полезной нагрузки и настройки программного обеспечения. Один из автономных быстроходных катеров, «Чайка», оснащенный гидролокационной системой, предназначен для поиска мин и подводных лодок. Амир Алон, старший директор Elbit Systems, израильской оборонной компании, создавшей «Чайку», говорит мне, что этот катер также может быть оснащена дистанционно управляемым пулеметом и торпедами, запускаемыми с палубы. «Он может работать автономно, но мы не рекомендуем этого делать. Мы не хотим начинать Третью мировую войну», — говорит он с улыбкой.
Это, несомненно, так. Однако в высказывании Элона затронута важная истина: автономные системы, способные убивать, уже существуют по всему миру. В любом крупном конфликте, даже в отдаленном по своим масштабам от Третьей мировой войны, каждая сторона вскоре столкнется с искушением не только вооружить эти системы, но и, в некоторых ситуациях, отменить человеческий контроль, предоставив машинам свободу действий и возможность сражаться на полной скорости. В этой войне искусственного интеллекта против искусственного интеллекта погибнут только люди. Поэтому вполне резонно задаться вопросом: Как мыслят эти машины и люди, которые их создают?
Проблески автономных технологий существовали в вооруженных силах США на протяжении десятилетий, от программного обеспечения для автопилота в самолетах и беспилотных летательных аппаратах до автоматизированных палубных орудий, защищающих военные корабли от приближающихся ракет. Но это системы ограниченного применения, предназначенные для выполнения определенных функций в конкретных условиях и ситуациях. Они автономны, однако не разумны. Только в 2014 году высшее руководство Пентагона начало рассматривать более эффективные автономные технологии в качестве решения гораздо более масштабной проблемы.
Боб Уорк, в то время занимавший должность заместителя министра обороны США, был обеспокоен тем, что геополитические соперники страны «приближаются к паритету» с американскими вооруженными силами. По его словам, он хотел понять, как «восстановить превосходство», как сделать так, чтобы даже если США, не имея столько солдат, самолетов и кораблей, сколько, скажем, Китай, могли выйти победителями из любого потенциального конфликта. Поэтому Уорк обратился к группе ученых и технологов с вопросом, на чем Министерству обороны следует сосредоточить свои усилия. «Они ответили, что нужно создавать автономные системы на основе ИИ», – вспоминает он. Он начал работать над стратегией национальной обороны, которая бы способствовала развитию инноваций в технологическом секторе, включая новые возможности, предлагаемые машинным обучением.
Легче сказать, чем сделать. Министерство обороны реализовало некоторые проекты, в том числе экспериментальный военный корабль Sea Hunter стоимостью 20 млн долларов и Ghost Fleet Overlord – флотилию обычных кораблей, переоборудованных для работы в автономном режиме, но к 2019 году попытки министерства освоить возможности Big Tech потерпели неудачу. Попытка создать единую облачную инфраструктуру для поддержки ИИ в военных операциях превратилась в сложный политический вопрос и была прекращена. Проект компании Google, предусматривающий использование искусственного интеллекта для анализа аэрофотоснимков, вызвал бурю критики со стороны общественности и протест сотрудников. Когда ВМС в 2020 году опубликовали свой план кораблестроения, в котором описывалось, как будет развиваться флот США в ближайшие три десятилетия, в нем подчеркивалась важность беспилотных систем, особенно больших надводных кораблей и подводных аппаратов, но на их разработку выделялось относительно мало средств.
В крошечном кабинете в глубинах здания Пентагона бывший летчик ВМС Майкл Стюарт в полной мере осознавал эту проблему. Стюарт, которому было поручено курировать разработку новых боевых систем для американского флота, начал понимать, что ВМС, подобно блокбастеру, вступают в эпоху Netflix. Несколькими годами ранее в Гарвардской школе бизнеса он посещал занятия Клэя Кристенсена, который изучал причины, по которым крупные успешные предприятия вытесняются более мелкими участниками рынка – часто потому, что сосредоточенность на текущем бизнесе заставляет их упускать новые технологические тенденции. Вопрос для ВМС, по мнению Стюарта, заключался в том, как ускорить внедрение робототехники и искусственного интеллекта, не погрязнув при этом в ведомственной бюрократии.
Другие исследователи в то время придерживались аналогичных взглядов. Например, в декабре того же года исследователи из RAND, финансируемого правительством аналитического центра по вопросам обороны, опубликовали доклад, в котором предлагался альтернативный выход из ситуации: Вместо того чтобы финансировать горстку дорогостоящих автономных систем, почему бы не закупить большое количество более дешевых? Опираясь на результаты нескольких военных игр, посвященных китайскому вторжению на Тайвань, RAND утверждает, что развертывание огромного количества недорогих беспилотников может значительно повысить шансы США на победу. Получая изображение каждого судна в Тайваньском проливе, предполагаемые беспилотники, которые специалисты RAND окрестили «котятами», позволят США быстро уничтожить флот противника. (в свое время китайский военный журнал обратил внимание на этот прогноз, обсудив потенциал развертывания в Тайваньском проливе «сяо мао», что в переводе с китайского означает «котенок»).
В начале 2021 г. Стюарт с группой коллег составили 40-страничный документ под названием «Концепция беспилотной кампании» (Unmanned Campaign Framework). В нем излагался нестандартный план использования ВМС автономных систем, предусматривающий отказ от традиционных закупок в пользу экспериментов с дешевыми роботизированными платформами. В работе будет задействована небольшая разноплановая команда — специалисты по искусственному интеллекту и робототехнике, эксперты по военно-морской стратегии, которые смогут работать сообща для быстрой реализации идей. «Речь идет не только о беспилотных системах. Это по большей мере организационный вопрос» — говорит Стюарт.
План Стюарта привлек внимание вице-адмирала Брэда Купера, командующего Пятым флотом, территория которого охватывает 2,5 млн. кв. миль водного пространства от Суэцкого канала вокруг Аравийского полуострова до Персидского залива. В этом районе пролегают судоходные пути, как жизненно важные для мировой торговли, так и изобилующие незаконным промыслом и контрабандой. По словам Стюарта, после окончания войны в Персидском заливе, когда внимание и ресурсы Пентагона переключились на Азию, Купер стал искать способы добиться большего с меньшими затратами. Иран усилил свои атаки на торговые судна, окружая их вооруженными скоростными катерами и даже нанося удары с помощью беспилотников и катеров с дистанционным управлением.
Купер попросил Стюарта присоединиться к нему и Брассеру в Бахрейне, и все вместе они приступили к созданию оперативной группы 59. Они изучили автономные системы, уже используемые в других странах мира, например, для сбора климатических данных или мониторинга морских нефтяных платформ, и пришли к выводу, что аренда и модификация этого оборудования обойдется в сумму, составляющую лишь малую часть тех средств, которые ВМС обычно тратят на новые корабли. Затем оперативная группа 59 будет использовать программное обеспечение, управляемое искусственным интеллектом, чтобы собрать все части воедино. «Если новые беспилотные системы смогут работать в этих сложных водах, то мы полагаем, что их можно будет распространить и на другие флоты ВМС США», — сказал мне Купер.
По мере создания новой оперативной группы эти воды становились все более сложными. Ранним утром 29 июля 2021 г. нефтяной танкер Mercer Street следовал на север вдоль побережья Омана, направляясь из Танзании в Объединенные Арабские Эмираты, когда на горизонте появились два черных V-образных беспилотника, которые пронеслись по чистому небу, а затем взорвались в море. Днем позже, после того как экипаж поднял из воды обломки и сообщил об инциденте, третий беспилотник спикировав, взорвался на крыше диспетчерской корабля, на этот раз сдетонировавшее взрывное устройство разорвало конструкцию, убив двух членов экипажа. Следователи пришли к выводу, что в инциденте виноваты три «дрона-смертника» иранского производства.
Главная угроза, по мнению Стюарта, исходит от Китая. «Моя цель состоит в том, чтобы очень быстро — в течение пяти лет — создать дешевые или менее дорогостоящие разработки, чтобы послать сигнал сдерживания», – говорит он. Но Китай, естественно, тоже вкладывает значительные средства в развитие военной автономии. В докладе Джорджтаунского университета, опубликованном в 2021 г., говорится, что Народно-освободительная армия Китая ежегодно тратит на эти технологии более 1,6 млрд. долларов, примерно наравне с США. В докладе также отмечается, что автономные корабли, подобные тем, что используются в оперативной группе 59, являются одним из основных направлений деятельности ВМС Китая. Компания уже разработала клон Sea Hunter, а также, по некоторым данным, большой беспилотный корабль.
Однако Стюарт не замечал особого интереса к своей работе до тех пор, пока Россия не начала специальную военную операцию в Украине. «Люди звонят мне и спрашивают: Знаете, вы говорили об автономных системах? Хорошо, расскажите мне поподробнее», —говорит он. Подобно морякам и чиновникам, с которыми я встречался в Бахрейне, он не стал комментировать ситуацию — ни атаку беспилотного катера в Севастополе, ни пакет помощи в 800 миллионов долларов, который США направили Украине прошлой весной и который включал в себя неопределенное количество «беспилотных кораблей береговой обороны», ни работу Украины по созданию полностью автономных беспилотников-убийц. Стюарт сказал лишь следующее: «Времена определенно меняются».
Я нахожусь в Сан-Диего, штат Калифорния, главном порту Тихоокеанского флота США, где стартапы оборонной промышленности набирают стремительные обороты. Прямо передо мной, в высоком стеклянном здании, окруженном пальмами, находится штаб-квартира компании Shield AI. Стюарт посоветовал мне посетить эту компанию, которая производит V-BAT — беспилотный летательный аппарат, с которым оперативная группа 59 проводит эксперименты в Персидском заливе. Несмотря на странный внешний вид, в форме перевернутой буквы Т, с крыльями и единственным пропеллером в нижней части — это впечатляющее оборудование, маленькое и настолько легкое, чтобы команда из двух человек могла запустить его практически из любого места. Однако больше всего меня заинтересовало программное обеспечение, находящееся внутри V-BAT, пилотного ИИ под названием Hivemind.
Я прохожу через белоснежные офисы компании, мимо инженеров, разбирающихся с деталями дронов и кодовыми символами, и попадаю в небольшой конференц-зал. Там на большом экране я наблюдаю за тем, как три V-BAT отправляются в калифорнийскую пустыню для выполнения смоделированной миссии. Где-то неподалеку бушует лесной пожар, и их задача – найти его. Самолеты стартуют с земли вертикально, затем наклоняются вперед и разлетаются в разные стороны. Через несколько минут один из беспилотников обнаруживает очаг возгорания и передает информацию другим беспилотникам. Они меняют траекторию полета, перемещаясь ближе к пожару, чтобы составить полную картину его масштабов.
В рамках этой симулятивной миссии дроны V-BAT не следуют прямым командам оператора. Они также не следуют и командам, которые могли бы быть прописаны в обычном программном обеспечении, то есть жесткому принципу «если видите это, совершите следующее конкретное действие». Вместо этого дроны в автономном режиме собирают данные, самостоятельно ориентируются в окружающей среде, планируют, как им выполнить миссию, и работают сообща в «команде». Инженеры компании Shield AI тренируют Hivemind – частично с помощью методики обучения с подкреплением, – задействуя его в тысячах смоделированных миссий, постепенно побуждая его сосредотачиваться на наиболее эффективных способах выполнения поставленной задачи. «Эти системы способны думать и принимать решения», – говорит Брэндон Ценг, бывший морской котик и один из основателей компании.
Эта версия Hivemind включает в себя довольно простой подалгоритм, который может идентифицировать смоделированные лесные пожары. Конечно, другой набор подалгоритмов мог бы помочь группе беспилотников идентифицировать любое количество других целей – транспортные средства, судна, солдат. Система также не ограничивается дронами V-BAT. Hivemind также предназначен для управления реактивным истребителем F-16, и он может превзойти большинство пилотов-людей, которые выполняют с ним задания на симуляторах. (Компания предполагает, что этот искусственный интеллект станет “вторым пилотом” в новых поколениях военных самолетов.) Hivemind также управляет квадрокоптером под названием Nova 2, который настолько мал, чтобы поместиться в рюкзаке, и может исследовать и наносить на карту интерьеры зданий и подземных комплексов.
Для оперативной группы 59 или любой другой военной организации, желающей перейти на ИИ и робототехнику с низкими затратами, ценность этих технологий очевидна. Они предлагают не только «улучшенную видимость» на поле боя, как выразился Брассер, но и возможность проецировать мощь (и, возможно, применять силу), задействуя минимальное количество людей. Вместо того чтобы назначать десятки операторов беспилотников на поисково-спасательные работы или разведку, можно послать группу дронов V-BAT или Nova 2. Вместо того чтобы во время воздушной атаки рисковать жизнями ваших высококлассных пилотов, на обучение которых было затрачено немало средств, вы могли бы отправить «рой» дешевых беспилотников, каждый из которых управляется одним и тем же искусственным интеллектом, являясь продолжением одного и того же коллективного разума.
Однако какими бы удивительными ни были алгоритмы машинного обучения, они могут быть по своей сути непредсказуемыми и не поддающимися логическому объяснению. Во время визита в Shield AI мне довелось «познакомиться» с одним из беспилотников компании Nova 2. Он поднимается с пола и парит в метре от моего лица. «Он вас изучает», — говорит инженер. Мгновение спустя беспилотник взмывает вверх и проносится сквозь макет окна в одной из стен помещения. Ощущения тревожные. В одно мгновение этот маленький воздушный разведчик сделал вывод обо мне. Но как? Хотя ответ может быть очевиден для инженеров Shield AI, которые могут воспроизводить и анализировать элементы процесса принятия решений роботом. Компания все еще работает над тем, чтобы сделать эту информацию доступной для «неопытных пользователей».
Достаточно взглянуть на гражданский мир, чтобы увидеть, как эти технологии могут давать сбои — системы распознавания лиц, которые демонстрируют расовые и гендерные предубеждения, беспилотные автомобили врезаются в объекты, распознавать которые их еще не научили. Даже при условиях тщательного проектирования военная система, основанная на ИИ, может совершить аналогичные ошибки. Алгоритм, обученный распознавать вражеские грузовики, может быть сбит с толку, не отличив их от гражданского транспортного средства. Система противоракетной обороны, созданная для реагирования на приближающиеся угрозы, может оказаться не в состоянии полностью «объяснить», почему она дала осечку.
Эти риски ставят перед нами новые этические вопросы, сродни тем, которые возникают при авариях с участием беспилотных автомобилей. Если автономная военная система совершает ошибку, повлекшую за собой фатальные последствия, кто несет ответственность? Командир, руководящий операцией, офицер, наблюдающий за работой системы, компьютерный инженер, разработавший алгоритмы и коллективный разум, посредник, предоставивший данные для обучения роботов?
Одно можно сказать точно: технологии развиваются быстро. Когда я познакомился с Ценгом, он сказал, что целью компании Shield AI является создание «оперативной группы из трех V-BAT в 2023 году, шести V-BAT в 2024 году и 12 V-BAT в 2025 году». Через восемь месяцев после нашей встречи Shield AI запустила команду из трех V-BAT с базы ВВС для выполнения миссии по поиску лесного пожара. Компания также может похвастаться тем, что Hivemind можно обучить выполнению целого ряда задач — поиску ракетных баз, столкновению с вражескими самолетами, а вскоре он сможет действовать даже в условиях ограниченной или прерванной связи.
Перед тем как покинуть Сан-Диего, я совершаю экскурсию по авианосцу USS Midway, который был введен в строй в конце Второй мировой войны и сейчас на постоянной основе пришвартован в бухте. На протяжении десятилетий на борту авианосца находились самые передовые военные технологии, он служил плавучей взлетно-посадочной полосой для сотен самолетов, выполнявших разведывательные и бомбардировочные задания в конфликтах, от Вьетнама до Ирака. В центре корабля, словно в огромном металлическом желудке, находится ангарная палуба. Двери с одной стороны ведут в кроличий лабиринт коридоров и комнат, среди которых тесные каюты матросов, уютные спальни офицеров, кухни, медотсеки, даже парикмахерская и прачечная — все это является напоминанием о том, что на этом корабле когда-то жили 4000 матросов и офицеров.
Стоя здесь, я осознаю, насколько значительным будет переход к автономным военным системам. Возможно, пройдет еще немало времени, прежде чем количество беспилотных кораблей превысит количество кораблей с экипажем, и еще больше времени, прежде чем автономные судна станут повелевать морями. Однако армада роботов оперативной группы 59, пока еще только набирающая силу, знаменует собой переход в совершенно другой мир. Возможно, это будет более безопасный мир, в котором сети автономных беспилотников, разбросанные по всему миру, помогут людям предотвращать конфликты. А может быть вовсе наоборот, небо потемнеет от атакующих беспилотников. Какое бы будущее ни вырисовывалось на горизонте, роботы уверенно движутся вперед.
Эта статья опубликована в сентябрьском номере журнала за 2023 год.
