ШТУЧНИЙ ІНТЕЛЕКТ І ВІЙНИ МАЙБУТНЬОГО: що нас чекає далі

Photo by Saifee Art on Unsplash

Конфлікт навколо Ірану знову привернув увагу до ролі штучного інтелекту в сучасних військових операціях. Науковий журнал Nature допоміг змоделювати, як це позначиться на долі світу.

ШІ ВЖЕ ШИРОКО ВИКОРИСТОВУЮТЬ ДЛЯ ВІЙСЬКОВИХ ПОТРЕБ

скалація протистояння між США, Ізраїлем та Іраном призвела до нового обговорення тих «форматів», у яких штучний інтелект застосовується в сучасних військових конфліктах. За день до початку американо-ізраїльської військової операції 28 лютого американська влада відсторонила від співпраці компанію Anthropic — одного з ключових постачальників технологій ШІ. Цей крок став предметом гострої суспільної дискусії щодо етичних меж використання штучного інтелекту у військовій сфері. Однак серйозна розмова про ШІ та майбутнє військових технологій актуальна не лише для США. У Женеві пройшла зустріч науковців, юристів та експертів, присвячена обговоренню летальних автономних систем озброєння та закупівель штучного інтелекту для оборонних потреб.

ДОМОВЛЕНОСТІ НЕ ВСТИГАЮТЬ ЗА ТЕХНОЛОГІЯМИ

Зустріч відбулася в рамках триваючих міжнародних спроб досягти угоди, яка б регулювала правові та етичні аспекти застосування ШІ у війнах. Водночас політолог Майкл Горовіц із Пенсильванського університету у Філадельфії звертає увагу на те, що стрімкий розвиток технологій значно випереджає темпи міжнародних перемовин. З ним погоджується і Крейг Джонс, політичний географ з Університету Ньюкасла у Великій Британії: «Нинішнє небажання держав обмежувати використання штучного інтелекту у війні або хоча б призупинити його застосування доти, доки не буде досягнуто згоди щодо його законності, може означати, що поширення воєн із застосуванням ШІ є практично неминучим».

ШТУЧНИЙ ІНТЕЛЕКТ НА ПОЛІ БОЮ

Як зазначає Горовіц, збройні сили США вже застосовують системи штучного інтелекту, засновані на великих мовних моделях (LLM), для різних завдань. Вони використовуються для логістичного планування, адміністративної підтримки, аналізу розвідувальних даних та допомоги військовим командирам в ухваленні рішень на полі бою. Одним із прикладів є система Maven. Ця платформа застосовує алгоритми ШІ для обробки зображень та підтримки тактичного планування. Вона може прискорювати проведення операцій, наприклад, пропонуючи потенційні цілі та визначаючи пріоритетність їх ураження. За повідомленнями Washington Post та низки інших видань, Maven уже застосовувалася в попередніх військових конфліктах і, можливо, використовувалася під час атак на Іран. «Подробиці поки що залишаються прихованими», — каже політолог.

ШІ НЕ ЗМЕНШУЄ КІЛЬКІСТЬ ЖЕРТВ СЕРЕД ЦИВІЛЬНОГО НАСЕЛЕННЯ?

Існує думка, що високоточні системи наведення, засновані на штучному інтелекті, теоретично можуть зменшити кількість жертв серед цивільного населення під час бойових дій. Однак практика останніх років показує неоднозначну картину. Конфлікти в Україні та в секторі Газа, де ШІ застосовувався, приміром, для ідентифікації цілей і навігації безпілотників, супроводжувалися значними втратами серед мирних жителів. «Наразі немає переконливих доказів того, що застосування штучного інтелекту дійсно знижує кількість цивільних жертв або зменшує ймовірність помилок при виборі цілей. Ба більше, не можна виключати, що ситуація може бути прямо протилежною», — підкреслює Крейг Джонс.

АВТОНОМНІ СИСТЕМИ ШІ, ЩО ПОРУШУЮТЬ ПРАВИЛА

Особливо гострі суперечки викликає перспектива використання ШІ для керування повністю автономними бойовими системами без участі людини. Військові могли б, скажімо, використовувати безпілотні апарати, здатні самостійно виявляти, переслідувати та знищувати противника. Однак чинні норми міжнародного гуманітарного права вимагають розрізняти військові та цивільні цілі. За словами Горовіца, цілком автономні системи озброєння на основі штучного інтелекту, що діють без людського контролю, поки що не мають достатньої надійності та не відповідають міжнародним правовим нормам.

Вступаючи до клубу друзів Huxley, Ви підтримуєте філософію, науку та мистецтво

Приєднатися до клубу друзів

МОДЕЛІ ШІ НЕДОСКОНАЛІ, ТОМУ НЕБЕЗПЕЧНІ

Потенційні майбутні сфери застосування ШІ є предметом конфлікту між Міністерством оборони США та компанією Anthropic — розробником систем штучного інтелекту з Сан-Франциско. З 2024 року система Maven працює за підтримки мовної моделі Claude, створеної Anthropic, у рамках контракту з американським оборонним відомством на суму 200 млн доларів. У січні міністерство опублікувало меморандум, в якому зазначило, що контракти на постачання технологій ШІ для державних структур мають передбачати можливість їх використання «для будь-яких законних цілей» без обмежень. Однак компанія Anthropic не погодилася з таким формулюванням. Вона заявила, що її модель Claude не має використовуватися для масового стеження за американськими громадянами або керування повністю автономною зброєю. На думку керівництва компанії, сучасні технології не настільки досконалі й безпечні, щоб вирішувати подібні завдання.

КОМПАНІЇ ПРОТИ ТОТАЛЬНОГО СТЕЖЕННЯ ТА ШІ-ЗБРОЇ

Однак американське керівництво не поділяє побоювань Anthropic щодо ШІ. Тому 27 лютого президент США Дональд Трамп віддав розпорядження припинити використання технологій «бунтівної» компанії в урядових структурах. Майк Горовіц вважає, що, власне, вся ця історія є суперечкою щодо потенційних сценаріїв використання ШІ в майбутньому силовими відомствами. І суперечку цю, очевидно, ще не завершено. Після припинення співпраці з Anthropic американський уряд уклав контракт з OpenAI. Однак представники цієї компанії заявили, що умови угоди передбачають заборону на використання їхніх технологій для систем масового спостереження або для повністю автономного озброєння. Після чого перемовини між Anthropic та оборонним відомством США поновилися. Фахівці висловлюють серйозну стурбованість щодо потенційно небезпечних і неетичних варіантів використання ШІ. Співробітники Google та OpenAI поширюють петицію, в якій закликають керівництво компаній не дозволяти застосування їхніх моделей для масового внутрішнього стеження або автономного знищення людей.

ШІ-АЛГОРИТМИ МОЖУТЬ ПРОВОКУВАТИ КОНФЛІКТИ

Політолог Тоні Ерскін з Австралійського національного університету в Канберрі очолювала дослідницький проєкт, присвячений прогнозуванню майбутнього використання ШІ у військовій сфері. Минулого року в рамках цього проєкту було підготовлено рекомендації щодо державної політики. Окрім уже відомих проблем — як-от упередженість алгоритмів та непрозорість процесів ухвалення рішень у великих мовних моделях — у доповіді наголошується на ризику того, що заміна людського судження алгоритмами може ненавмисно призвести до ескалації конфліктів. «Повністю автономні системи озброєння, що діють без участі людини, є етично неприйнятними і мають бути заборонені на міжнародному рівні», — йдеться у доповіді. Її автори стверджують, що навіть ШІ-системи, в яких людина зберігає певну роль, також несуть значні ризики й вимагають суворого регулювання.

ДЕРЖАВИ НЕ ХОЧУТЬ «ГРАТИ ЗА ПРАВИЛАМИ»

Наразі здійснюється чимало спроб розробити міжнародні угоди, які б визначили правові та етичні рамки застосування ШІ у військових конфліктах. Однак, за словами Крейга Джонса, ці зусилля стикаються з серйозними перешкодами через недостатню участь ключових держав. Такі країни, як США, Ізраїль і Китай, переважно виступають проти посилення міжнародного регулювання у цій сфері. Вони не виявляють великого бажання приєднатися до Конвенції про конкретні види звичайної зброї (КЗЗ), в рамках якої може бути прийнято спеціальне правило, що забороняє використання ШІ в автономних системах озброєння. І неважко зрозуміти, чому.

СИСТЕМИ БЕЗПЕКИ ВЖЕ НЕ МОЖУТЬ ІГНОРУВАТИ ШІ

На нещодавній зустрічі експертної групи КЗЗ з питань систем летальної автономної зброї обговорювалася доповідь Стокгольмського міжнародного інституту, присвячена відповідальному підходу до закупівель військового ШІ. Зокрема, у ній йдеться про характер контрактів, які Міністерство оборони США укладає зараз із компаніями-розробниками ШІ. Визначення чітких стандартів «відповідальної поведінки» у доповіді називають критично важливим. Однак подібні ініціативи, окрім позиції представників держави, ускладнюються ще й тим, що дуже важко провести чітку межу між повністю автономними системами озброєння та іншими формами використання штучного інтелекту. Справа в тому, що на сьогодні ШІ вже є невід’ємною частиною безлічі комп’ютерних систем кібербезпеки. І відмовитися від нього без шкоди для цих систем уже не вдасться.

Оригінальне дослідження: