Пентагон таємно розширює застосування ШІ для вибору військових цілей: нова доктрина допускає повністю автономні системи
Міністерство оборони США затвердило оновлену доктрину, яка значно розширює роль штучного інтелекту у військових операціях, включаючи вибір цілей на полі бою. Документ, підписаний у квітні, не є секретним, однак до недавнього часу залишався поза увагою громадськості.
Ключове нововведення — офіційне закріплення концепції «бойових систем, у яких ШІ ініціює дії за умови людського моніторингу». Це принципово інший рівень автономії порівняно з простими рекомендаційними алгоритмами.
У доктрині прямо вказується, що швидкість сучасних конфліктів і стрімкий прогрес противників у сфері ШІ можуть змусити США створювати «повністю автономні системи». Основна мета — радикально скоротити цикл «від датчика до ураження цілі» та наростити темп операцій.
Нова стратегія покладає на нейромережі завдання з прискореної обробки розвідданих: системи повинні в реальному часі зіставляти інформацію про цілі з різних платформ, формуючи єдину, максимально повну оперативну картину. Командувачам рекомендовано активніше використовувати алгоритми для аналізу ризиків і прийняття рішень.
Примітно, що документ містить розділи про «зменшення шкоди цивільному населенню». Однак Пентагон попереджає і про зворотний бік медалі — «серйозні моральні та юридичні дилеми», пов'язані з надмірною залежністю від алгоритмів. У додатку особливо підкреслюється, що автоматизація не замінює людське мислення та проактивну комунікацію.
В офіційній заяві представник відомства запевнив, що технології міністерства «не дозволяють автономно обирати цілі або завдавати ударів», залишаючи відповідальність за командирами. Однак паралельно з публікацією статті Пентагон оголосив про «запуск мережі ШІ-агентів для перетворення систем управління боєм». Головний цифровий спеціаліст відомства Кемерон Стенлі зазначив, що мережа надасть командирам «швидший доступ до якіснішої інформації, зберігаючи людське судження в центрі кожного рішення».
Варто нагадати, що ще у 2023 році генсек ООН закликав до заборони летальних автономних систем, називаючи їх «морально огидними». На цьому тлі, а також з огляду на зростання впровадження ШІ в Пентагоні на 1775% за останній рік, нова доктрина виглядає як серйозний крок до розмивання меж людського контролю.
Мій аналіз: Формально документ зберігає «людину в контурі», але сама поява формулювань про «повністю автономні системи» як про неминучість — тривожний сигнал. Ринок криптовалют і децентралізованих технологій давно обговорює ризики централізованого контролю над ШІ. Цей кейс — наочна ілюстрація того, як алгоритми можуть бути інтегровані в системи, що приймають рішення про життя та смерть, що ставить під сумнів не лише етику, але й саму концепцію децентралізованого майбутнього.