Сценарій вимирання людства через штучний інтелект — це не фантастика, а цілком реальний ризик, який експерти оцінюють у 10–30%. Однак тепер у нас є «План А» — дорожня карта, яка, на думку її авторів, здатна не лише сповільнити перегони, а й зберегти контроль людини над надінтелектом.

Документ AI 2040: Plan A представив Деніел Кокотайло, колишній дослідник OpenAI, який покинув компанію у квітні 2024 року через принципові розбіжності щодо питань безпеки. У 2025 році він заснував проєкт AI Futures Project, який і підготував цей амбітний сценарій.

Як «План А» має зупинити перегони

Ключова ідея — міжнародна угода між США та Китаєм, яка має бути укладена у 2029 році. Без неї, як прогнозують автори, автоматизація розробок ШІ відбудеться вже у 2030 році, що призведе до неконтрольованого вибухового зростання.

Натомість країни зобов'язуються розвивати нейромережі лише до рівня найкращих експертів-людей. До 2035 року запроваджується повна пауза в розробках, щоб зберегти людський контроль. І лише у 2040 році «стоп-кран» знімається, і ШІ досягає рівня надінтелекту — але вже в безпечному, верифікованому середовищі.

План спирається на чотири принципи: виграти час для досліджень безпеки, повна прозорість розробок, децентралізація ШІ між компаніями та країнами, а також збереження оборотності всіх процесів.

Верифікація та взаємне знищення

Щоб сторони довіряли одна одній, автори пропонують використовувати фізичну верифікацію. Великі дата-центри видно з космосу — їх неможливо приховати. Перший крок: країни публічно декларують закупівлі ШІ-чипів. Потім запроваджується тимчасова пауза на нові навчальні прогони, яку контролюють датчики на об'єктах.

Найрадикальніший елемент — «взаємно гарантоване знищення обчислювальних потужностей». За логікою ядерного стримування, нові дата-центри Китаю пропонується будувати в Канаді, а об'єкти США — у Монголії. У разі конфлікту приймаюча країна спробує захопити потужності, а власник знищить їх, щоб вони не дісталися противнику.

Економіка та соціальні наслідки

Розрахунки вражають: світові обчислювальні потужності зростуть з 20 млн H100-еквівалентів у 2026 році до 60 млрд до 2034 року. Реальне зростання ВВП США в окремі періоди 2030-х досягне 50% на рік — проти звичайних 3%.

Однак автоматизація обвалить зайнятість: з 62% у 2027 році до 12% до 2040 року. Для компенсації пропонуються «громадянські дивіденди» — виплати кожному дорослому американцю з доходів держави від ліцензій на обчислення та роботів. Прогнози: $45 000 на людину у 2032 році, $1 млн — до 2035-го, і $10 млн — до 2039-го.

Альтернативні сценарії

Автори передбачили чотири запасні шляхи. План B — США створюють коаліцію та тиснуть на Китай аж до кібератак. План C — спроба домовитися, але під тиском бізнесу паузу швидко знімають, що веде до олігархії. План D — мінімальне регулювання та перегони з ризиком війни. План S — повна безстрокова зупинка, яка, найімовірніше, розпадеться, повернувши перегони в менш контрольованих умовах.

Моя експертиза: «План А» звучить як наукова фантастика, але його логіка бездоганна. Проблема в тому, що він вимагає безпрецедентного рівня глобальної довіри та координації — а саме цього нам зараз і бракує. У світі, де геополітична напруга зростає, а прибуток від ШІ обчислюється трильйонами, шанси на добровільну паузу до 2040 року прямують до нуля. Однак сама постановка питання — «як вижити, а не як прискоритися» — вже є значним кроком уперед для індустрії.