ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ВОЙНЫ БУДУЩЕГО: что нас ждет дальше

Photo by Saifee Art on Unsplash

Конфликт вокруг Ирана вновь привлек внимание к роли искусственного интеллекта в современных военных операциях. Научный журнал Nature помог смоделировать, как это отразится на судьбе мира.

ИИ УЖЕ ШИРОКО ИСПОЛЬЗУЕТСЯ ДЛЯ ВОЕННЫХ НУЖД

Эскалация противостояния между США, Израилем и Ираном привела к новому обсуждению тех «форматов», в каких искусственный интеллект применяется в современных военных конфликтах. За день до начала американо-израильской военной операции 28 февраля американские власти отстранили от сотрудничества компанию Anthropic — одного из ключевых поставщиков ИИ-технологий. Этот шаг стал предметом острой общественной дискуссии об этических границах использования искусственного интеллекта в военной сфере. Однако серьезный разговор об ИИ и будущем военных технологий актуален не только для США. В Женеве состоялась встреча ученых, юристов и экспертов, посвященная обсуждению летальных автономных систем вооружения и закупок искусственного интеллекта для оборонных нужд.

ДОГОВОРЕННОСТИ НЕ ПОСПЕВАЮТ ЗА ТЕХНОЛОГИЯМИ

Встреча прошла в рамках продолжающихся международных попыток выработать соглашение, которое бы регулировало правовые и этические аспекты применения ИИ в войнах. Вместе с тем политолог Майкл Горовиц из Пенсильванского университета в Филадельфии обращает внимание, что стремительное развитие технологий значительно опережает темпы международных переговоров. Ему вторит и Крейг Джонс, политический географ из Университета Ньюкасла в Великобритании: «Нынешнее нежелание государств ограничивать использование искусственного интеллекта в войне или хотя бы приостановить его применение до тех пор, пока не будет достигнуто соглашение о его законности, может означать, что распространение войн с применением ИИ практически неизбежно».

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НА ПОЛЕ БОЯ

Как отмечает Горовиц, вооруженные силы США уже применяют системы искусственного интеллекта, основанные на больших языковых моделях (LLM), для различных задач. Они используются для логистического планирования, административной поддержки, анализа разведывательных данных и помощи военным командирам при принятии решений на поле боя. Одним из примеров является система Maven. Эта платформа применяет алгоритмы ИИ для обработки изображений и поддержки тактического планирования. Она может ускорять проведение операций, например предлагая потенциальные цели и определяя приоритетность их поражения. По сообщениям Washington Post и ряда других изданий, Maven уже применялась в предыдущих военных конфликтах и, возможно, использовалась при атаках на Иран. «Подробности пока остаются скрытыми», — говорит политолог.

ИИ НЕ СНИЖАЕТ ЧИСЛО ЖЕРТВ СРЕДИ ГРАЖДАНСКИХ?

Существует мнение, что высокоточные системы наведения, основанные на искусственном интеллекте, теоретически могут уменьшить число жертв среди гражданского населения во время боевых действий. Однако практика последних лет показывает неоднозначную картину. Конфликты в Украине и в секторе Газа, где ИИ применялся, например, для идентификации целей и навигации беспилотников, сопровождались значительными потерями среди мирных жителей. «На данный момент нет убедительных доказательств того, что применение искусственного интеллекта действительно снижает количество гражданских жертв или уменьшает вероятность ошибок при выборе целей. Более того, нельзя исключать, что ситуация может быть прямо противоположной», — подчеркивает Крейг Джонс.

АВТОНОМНЫЕ ИИ-СИСТЕМЫ ПРОТИВ ПРАВИЛ

Особенно острые споры вызывает перспектива использования ИИ для управления полностью автономными боевыми системами без участия человека. Военные могли бы, скажем, использовать беспилотные аппараты, способные самостоятельно обнаруживать, преследовать и уничтожать противника. Однако действующие нормы международного гуманитарного права требуют различать военные и гражданские цели. По словам Горовица, полностью автономные системы вооружений на основе искусственного интеллекта, действующие без человеческого контроля, пока не обладают достаточной надежностью и не соответствуют международным правовым нормам.

Вступая в клуб друзей Huxley, Вы поддерживаете философию, науку и искусство

Присоединиться к клубу друзей

ИИ-МОДЕЛИ НЕСОВЕРШЕННЫ, ПОЭТОМУ ОПАСНЫ

Потенциальные будущие сферы применения ИИ лежат в центре конфликта между Министерством обороны США и компанией Anthropic — разработчиком систем искусственного интеллекта из Сан-Франциско. С 2024 года система Maven работает при поддержке языковой модели Claude, созданной Anthropic, в рамках контракта с американским оборонным ведомством на сумму 200 млн долларов. В январе министерство опубликовало меморандум, в котором указало, что контракты на поставку технологий ИИ для госструктур должны предусматривать возможность их использования «для любых законных целей» без ограничений. Однако компания Anthropic не согласилась с такой формулировкой. Она заявила, что ее модель Claude не должна использоваться для массовой слежки за американскими гражданами или управления полностью автономным оружием. По мнению руководства компании, современные технологии не настолько совершенны и безопасны, чтобы решать подобные задачи.

КОМПАНИИ ПРОТИВ ТОТАЛЬНОЙ СЛЕЖКИ И ИИ-ОРУЖИЯ

Однако американское руководство опасения Anthropic по поводу ИИ не разделяет. Поэтому 27 февраля президент США Дональд Трамп распорядился прекратить использование технологий «взбунтовавшейся» компании в правительственных структурах. Майк Горовиц считает, что, по сути, вся эта история представляет собою спор о потенциальных сценариях использования ИИ в будущем силовыми ведомствами. И спор этот, судя по всему, не закончен. После прекращения сотрудничества с Anthropic американское правительство заключило контракт с OpenAI. Однако представители этой компании заявили, что условия соглашения предусматривают запрет на использование их технологий для систем массового наблюдения или для полностью автономного вооружения. После чего переговоры Anthropic и оборонного ведомства США возобновились. Специалисты выражают серьезную обеспокоенность потенциально опасными и неэтичными вариантами использования ИИ. Сотрудники Google и OpenAI распространяют петицию, призывающую руководство компаний не разрешать применение их моделей для массового внутреннего слежения или автономного уничтожения людей.

ИИ-АЛГОРИТМЫ МОГУТ ПРОВОЦИРОВАТЬ КОНФЛИКТЫ

Политолог Тони Эрскин из Австралийского национального университета в Канберре руководила исследовательским проектом, посвященным прогнозированию будущего использования ИИ в военной сфере. В прошлом году в рамках этого проекта были подготовлены рекомендации по государственной политике. Помимо уже известных проблем — таких как предвзятость алгоритмов и непрозрачность процессов принятия решений в больших языковых моделях — в докладе подчеркивается риск того, что замена человеческого суждения алгоритмами может непреднамеренно привести к эскалации конфликтов. «Полностью автономные системы вооружений, действующие без участия человека, являются этически неприемлемыми и должны быть запрещены на международном уровне», — говорится в докладе. Его авторы утверждают, что даже ИИ-системы, в которых человек сохраняет определенную роль, также несут значительные риски и требуют строгого регулирования.

ГОСУДАРСТВА НЕ ХОТЯТ «ИГРАТЬ ПО ПРАВИЛАМ»

В настоящее время предпринимается множество попыток выработать международные соглашения, которые определили бы правовые и этические рамки применения ИИ в военных конфликтах. Однако, по словам Крейга Джонса, эти усилия сталкиваются с серьезными препятствиями из-за недостаточного участия ключевых государств. Такие страны, как США, Израиль и Китай, как правило, выступают против усиления международного регулирования в этой сфере. Они не демонстрируют большого желания присоединяться к Конвенции о конкретных видах обычного оружия (КНО), в рамках которой может быть принято специальное правило, запрещающее использование ИИ в автономных системах вооружения. И несложно понять, почему.

СИСТЕМЫ БЕЗОПАСНОСТИ УЖЕ НЕ МОГУТ ИГНОРИРОВАТЬ ИИ

На недавней встрече экспертной группы КНО по системам летального автономного оружия обсуждался доклад Стокгольмского международного института, посвященный ответственному подходу к закупкам военного ИИ. В частности, в нем идет речь о характере контрактов, которые с компаниями-разработчиками ИИ заключает сейчас Министерство обороны США. Определение четких стандартов «ответственного поведения» в докладе называется критически важным. Однако подобные инициативы, помимо позиции представителей государства, осложняются еще и тем, что очень трудно провести четкую границу между полностью автономными системами вооружений и другими формами использования искусственного интеллекта. Дело в том, что на сегодняшний день ИИ уже является неотъемлемой частью множества компьютерных систем кибербезопасности. И отказаться от него без ущерба для этих систем уже не получится.

Оригинальное исследование: