Германия предупреждает: гонка вооружений ИИ уже началась

Мир вступает в новую эру войны, в которой искусственный интеллект (ИИ) занимает центральное место. Искусственный интеллект делает армию быстрее, умнее и эффективнее. Но если его не остановить, это грозит дестабилизацией мира.

Как стало известно Солёнка.РФ, министр иностранных дел Германии Хайко Маас сказал, что гонка вооружений искусственного интеллекта (ИИ), уже началась.

«Мы как раз в самом центре этого. Это реальность, с которой нам приходится иметь дело», — сказал Маас, в новом документальном фильме «Войны будущего — как их предотвратить».

Это реальность, лежащая в основе борьбы за превосходство между величайшими державами мира.

«Это гонка, которая пронизывает военную и гражданскую сферы», — сказал Амандип Сингх Гилл, бывший председатель группы правительственных экспертов ООН по летальному автономному оружию. «Это также вопрос на несколько триллионов долларов».

Накопление сил

В недавнем отчете Комиссии национальной безопасности США по искусственному интеллекту говорится о «новой парадигме ведения войны», противопоставляющей «алгоритмы алгоритмам», и содержится призыв к массированным инвестициям, «чтобы постоянно обгонять потенциальных противников в инновациях».

Это наглядно иллюстрирует последний пятилетний план Китая, который ставит ИИ в центр неустанного наращивания исследований и разработок, в то время как его Народно-освободительная армия готовится к будущему или к тому, что Китай называет «интеллигентной войной».

Как заявил еще в 2017 году президент России Владимир Путин, «тот, кто станет лидером в этой сфере, станет правителем мира».

Но дело не только в великих державах.
Эта новая эра, находящаяся гораздо дальше по иерархии мировой власти, представляет собой проверенную в боях реальность.

Водораздел войны

В конце 2020 года, когда мир охватила пандемия ковида, нарастающая напряженность между двумя государствами на Кавказе переросла в войну.

Это было похоже на хрестоматийный региональный конфликт, в котором Азербайджан и Армения борятся из-за спорного региона Нагорного Карабаха . Но для тех, кто обратил на это внимание, это был переломный момент в войне.

«По-настоящему важным аспектом конфликта в Нагорном Карабахе, на мой взгляд, было использование беспилотных боеприпасов, так называемых «дронов-камикадзе» — этих довольно автономных систем», — сказала Ульрике Франке, эксперт по боевым действиям дронов в Европейском совете по международным отношениям.

Бомбы, которые совершают виражи в воздухе

Усовершенствованные модели барражирующих боеприпасов обладают высокой степенью автономности. После запуска они летят в определенную область, где «задерживаются» в поисках целей — обычно систем ПВО.

Как только они обнаруживают цель, они влетают в нее, уничтожая ее при ударе с помощью бортового груза взрывчатки; отсюда и прозвище «дроны-камикадзе».

«Они также использовались в той или иной форме и раньше — но здесь они действительно показали свою полезность», — объяснила Франке. «Было продемонстрировано, насколько сложно бороться с этими системами».

Исследования Центра стратегических и международных исследований показали, что Азербайджан имеет огромное преимущество в использовании «умных» боеприпасов, имея более 200 единиц четырехсложных израильских разработок.

В то время как в распоряжении Армении была единственная отечественная модель. Другие военные приняли это к сведению.

«После конфликта был замечен всплеск интереса к «умным» боеприпасам», — сказала Франке. «Мы видели, как все больше вооруженных сил по всему миру приобретают или желают приобрести их».

Стаи дронов и флеш-войны

Можно не сомневаться, что технологии, основанные на искусственном интеллекте, такие как роение беспилотников, найдут применение в военных целях, что позволит многим дронам работать вместе как смертоносное целое.

«Например, вы можете уничтожить систему противовоздушной обороны», — сказал Мартин Рассер из Центра новой американской безопасности, аналитического центра, базирующегося в Вашингтоне, округ Колумбия.

Масштабы и скорость роения открывают перспективу военных столкновений, столь быстрых и сложных, что люди не смогут их контролировать, что еще больше разжигает динамику гонки вооружений.

Как объяснила Ульрике Франке: «Некоторые акторы могут быть вынуждены принять определенный уровень автономии, по крайней мере, в обороне, потому что люди не смогут управлять атаками так быстро, как автономное ИИ».

Этот критический фактор скорости может даже привести к войнам, которые вспыхнут из ниоткуда, когда автономные системы будут реагировать друг на друга по спирали эскалации.

«В литературе мы называем эти «флэш-войны», — сказал Франке, — «случайным военным конфликтом, которого никто не хотел».

Движение по «остановке роботов-убийц»

Бонни Дочерти поставила перед собой задачу предотвратить такое будущее. Преподаватель юридического факультета Гарвардского университета, она является идейным вдохновителем «Кампании по борьбе с роботами-убийцами» — альянса неправительственных организаций, требующих глобального договора о запрещении летального автономного оружия.

«Основное обязательство договора должно заключаться в сохранении значимого человеческого контроля над применением силы», — сказал Дочерти. «Это должен быть договор, который регулирует все оружие, работающее автономно, которое выбирает цели и стреляет по ним на основе сигналов датчиков, а не человека».

Кампания приняла участие в переговорах в Женеве под эгидой Конвенции ООН, темой которых был контроль над оружием, которое, как считается, причиняет неоправданные страдания.

В ходе этого процесса был выработан набор «руководящих принципов», включая то, что люди несут конечную ответственность за использование автономного оружия. Но проблем для дальнейших дискуссий еще предостаточно.

Дочерти опасается, что согласованный консенсусом Женевский процесс может быть сорван державами, не заинтересованными в договоре.

«Некоторые другие государства, разрабатывающие автономные системы оружия, такие как Израиль, США, Великобритания и другие, безусловно, не поддержали новый договор».

Дочерти призывает к новому подходу, если следующий раунд женевских переговоров, который должен состояться позднее в этом году, не принесет прогресса. Она предложила «независимый процесс, управляемый государствами, которые действительно серьезно относятся к этому вопросу и желают разработать строгие стандарты для регулирования этих систем оружия».

Но многие настороженно относятся к этой идее. Министр иностранных дел Германии не поддерживает кампанию по остановке роботов-убийц.

«Мы не отвергаем это по существу — мы просто говорим, что хотим, чтобы другие государства тоже были включены в этом процесс», — сказал Хейко Маас. «Это должны быть все военные державы, которые технологически в состоянии не только разрабатывать автономное оружие, но и использовать его».

Маас согласен с тем, что договор должен быть конечной целью.

«Так же, как нам удавалось ограничить наращивание ядерного оружия в течение многих десятилетий, мы должны заключить аналогичные международные договоры по новым оружейным технологиям», — сказал он. «Они должны пояснить, что мы согласны с тем, что некоторые разработки, которые технически возможны, неприемлемы и должны быть запрещены во всем мире».

Но пока нет единого мнения. Для Франке лучшее, на что может надеяться мир, — это нормы использования новых технологий.

«Вы соглашаетесь, например, использовать определенные возможности только в качестве защиты, или только против машин, а не людей, или только в определенных контекстах», — сказала она.

Но даже это будет проблемой. «Согласиться на это и затем реализовать это намного сложнее, чем некоторые из старых соглашений по контролю над вооружениями», — сказала она.

И пока дипломаты пытаются преодолеть эти препятствия, технологии продолжают развиваться.

«Мир должен понять, что мы движемся к ситуации с кибернетическим оружием или автономным оружием, когда каждый может делать все, что ему заблагорассудится», — сказал Маас. «Мы этого не хотим».

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»