Елена Ларина - Роботы-убийцы против человечества. Киберапокалипсис сегодня

Мы полагаем, что в ближайшем будущем на вооружении США и их союзников и партнеров будут находиться в основном полуавтономные, а также небоевые АРС. Что касается врагов и противников Америки, то в ближайшем будущем их технологические возможности вряд ли позволят создать эффективные БАРС. Однако такой риск тем не менее сохраняется вследствие исчезновения барьеров между гражданским и военным секторами технологий, бизнеса и т. п. Поскольку враги, в том числе, негосударственные акторы, потенциально могут купить, получить или создать БАРС, уже сегодня Соединенные Штаты, их союзники и партнеры должны заранее сосредоточить усилия на создании БАРС, действующих исключительно против БАРСов противника.

Сосредоточившись на теме автономии вооружений, важно не забывать и о других характеристиках. Эти характеристики в определенных условиях могут быть не менее, а даже более важными, чем автономность.

Например, статическая система автономного оружия, расположенная вдоль границы страны, будет гораздо более уязвима, чем автономная мобильная система. Хорошо известно, что в годы Холодной войны самым страшным оружием Советов были неуловимые поезда, несущие на себе стратегические ракеты, запускаемые непосредственно с колесных платформ. В отличие от легко обнаруживаемых стратегических сил США, расположенных либо в шахтах, либо на подводных лодках, Соединенные Штаты до последних дней существования СССР не знали, где и когда может быть нанесен удар этими подвижными железнодорожными монстрами, не распознававшимися со спутников, для которых они выглядели также, как составы с песком или коровами.

Точно так же, как динамичность, огромное значение может иметь и среда использования автономного оружия. Например, автономные боевые системы, рассчитанные на поражение в подводной среде, как правило, на порядок дешевле подобных систем для сухопутной и даже воздушной среды. Дело в том, что для сухопутной и воздушной сред больших затрат требует создание средств тонкого распознавания с тем, чтобы по ошибке или необоснованно не атаковать мирную цель и не нанести потери гражданскому населению. В случае подводного оружия такой задачи нет.

Наконец, ключевым параметром является поражающая мощь. Даже школьнику понятно, что риски использования автономного роботизированного бомбардировщика с атомными крылатыми ракетами на борту на тысячи порядков выше, чем риск применения самонаводящегося, полностью роботизированного пулемета. Соответственно автономия должна рассматриваться вместе с другими важнейшими характеристиками оружия. Только комплексное рассмотрение позволит профессионально говорить о возможностях и рисках.

В настоящее время 30 стран используют в своих вооруженных силах автономные и полуавтономные системы. Во всех этих системах на сегодняшний день человек находится в «петле управления», выполняя, по крайней мере, функцию контролера. Кроме того, пока автономные военные системы используются в основном для разведки, транспортировки и логистики, а также позиционной обороны. Даже в случаях логистики и транспортировки, в основном эти системы применяются для перемещения и складирования грузов, боеприпасов и т. п., а не людей. Возможно, самым главным является тот факт, что во всех 30 странах пока люди не только выполняют функции контролера, но и во всех случаях имеют возможность вручную отключить систему в случае сбоя и т. п.

Однако принимая во внимание ускоряющиеся темпы развития систем робототехники, информационных и когнитивных технологий, возрастающую международную напряженность и неустойчивость мировой динамики, с высокой степенью вероятности можно прогнозировать, что будущее не будет линейным продолжением прошлого. Уже в ближайшем будущем кто-то из государственных или негосударственных акторов неизбежно перейдет зыбкую границу между автономными системами (с человеком-контролером и ликвидатором) и автономными системами в формальном смысле (без человека-контролера и ликвидатора, где человек выполняет только функцию активатора оружия). Более того, нельзя быть уверенным, что эта зыбкая граница уже кем-то где-то и когда-то не перейдена.

Бесспорно, необходимо вести публичные и закрытые дискуссии среди военных профессионалов, ученых, инженеров, юристов, специалистов по этике и активистов. Однако при ведении подобных дискуссий не надо обольщаться и считать, что их выводы и итоги могут что-либо изменить в контексте динамики автономии, интеллектуальности и живучести роботизированных и иных автоматических систем как в гражданской, так и особенно в военной сферах. Эти дискуссии важны для понимания, но совершенно бессмысленны, как способ ограничения развития. В нашем разделенном мире никакое соглашение относительно ограничений технического прогресса не будет выполняться. Всегда найдется тот, кто в силу обстоятельств, умысла или по любознательности нарушит любые соглашения. В этом смысле более оправдана позиция, исходящая из динамичности научно-технического прогресса и независимости его направленности и динамики от наших желаний, соглашений или опасений.

Вооружения, инфраструктуры и методы ведения войн непрерывно меняются. Нации должны адаптироваться к переменам, иначе они рискуют потерпеть поражение на поле боя. Исход войн определяют, конечно же, люди. Но качество и продвинутость вооружений в истории зачастую играли и играют решающую роль. Никакая масса солдат не сможет преодолеть отсутствие у армии, например, пулеметов. Какой бы у армии не был высокий боевой дух, он не защитит от безжалостных авиационных атак с использованием оружия массового поражения.

Высокий уровень боеготовности и мощи вооруженных сил зависит не только от используемых технологий и инноваций, но и от других факторов: качества управления, ресурсной обеспеченности, культурно-образовательного уровня и т. п. Иногда эти факторы при приблизительном равенстве в используемых вооружениях могут сыграть определяющую роль. Сегодня, как никогда ранее, технологические факторы переплетены с институциональными, культурными и поведенческими. Новые технологии меняют лицо войны и Соединенные Штаты должны опережающим образом адаптироваться к этим изменениям.

В глобальной среде безопасности четко проявляется несколько тенденций. Так или иначе, они ведут к эрозии традиционных американских военных преимуществ. Прежде всего, все более широко по миру распространяются мощные вооружения и средства их доставки, в том числе в виде ракет разного радиуса действия. Одновременно, не только государства, но и негосударственные акторы имеют доступ к новым высокоточным вооружениям, а также миниатюрным минам, бомбам, боеприпасам, которые могут быть доставлены на место взрыва не только отдельными людьми, но и микроподлодками, микродронами и т. п. Становятся все более доступными различного рода технологии, имеющие двойное назначение. Практически все современные информационные технологии являются технологиями двойного назначения и могут быть использованы в военной сфере злонамеренными государствами, негосударственными группами и индивидуумами против Америки. Дополнительные возможности для создания разрушительных, но при этом миниатюрных вооружений создает появление принципиально новых, в том числе композитных, материалов, 3D печать, подлинный бум робототехники, который охватил не только ведущие технологические страны мира, но и страны с невысоким уровнем развития. Все это создает принципиально новые угрозы овладения мощными разрушительными вооружениями злонамеренными государствами, негосударственными группами и индивидуумами.

Поскольку в высокотехнологическом мире больше нет разделения на гражданские и военные технологии, глобальные потоки технологий и их открытость действуют в сторону выравнивания возможностей обладания разрушительными вооружениями не только между государствами, но даже и между государственными и негосударственными акторами.

Дополнительный импульс этому дает становящаяся на наших глазах глобальной система телекоммуникаций, опирающаяся, прежде всего, на интернет и гаджеты типа мобильных телефонов. В этой среде любой сложный вирус, типа Stuxnet, а тем более боевые программы, рассчитанные непосредственно на поражение боевой техники и гражданских инфраструктур по своей смертоносности не отличаются от оружия массового поражения. В военном деле появился принципиально новый феномен. Речь идет о так называемых вооружениях с открытым кодом. Сегодня значительная часть программного кода, необходимого для создания мощных боевых платформ и эксплойтов, устройств 3D печати и Боевых Автономных Роботизированных Систем (БАРС) находится в свободном доступе и является своего рода опенсорсной средой разработки вооружений.