Колишній дослідник OpenAI Деніел Кокотайло, який покинув компанію у квітні 2024 року через розбіжності щодо питань безпеки, представив новий амбітний сценарій порятунку світу від загрози надінтелекту. Документ під назвою AI 2040: Plan A пропонує міжнародну угоду, яка має пригальмувати гонку за штучним інтелектом до 2040 року, знизивши ризики катастрофічного результату.
Суть плану: пауза до 2040 року
Ключова ідея — укладення угоди між США та Китаєм у 2029 році про відмову від форсованої розробки надінтелекту. Натомість країни розвиватимуть нейромережі поступово, до рівня найкращих експертів-людей. До 2035 року розвиток повністю призупиняється, щоб зберегти контроль людини над системами. І лише у 2040 році паузу знімають, і ШІ досягає рівня надінтелекту. Це дає час для досліджень безпеки та запобігає автоматизації розробок, яка, за розрахунками, відбулася б уже у 2030 році.
Чотири принципи та механізм верифікації
План спирається на чотири стовпи: виграш часу для безпеки, повна прозорість розробок, розподіл ШІ між різними країнами та компаніями, а також збереження зворотності процесу. Для забезпечення довіри пропонується використовувати супутникову верифікацію — великі дата-центри видно з космосу. Перший крок: країни публічно декларують закупівлі чипів, потім вводиться тимчасова пауза на навчання моделей, що підтверджується датчиками. Після підтвердження довіри обмеження знімаються, але дослідження залишаються повністю прозорими.
Від зриву угоди захищає «взаємно гарантоване знищення обчислювальних потужностей» — за аналогією з ядерним стримуванням. Нові дата-центри Китаю пропонується будувати в Канаді, а об'єкти США — у Монголії, щоб у разі конфлікту їх було простіше знищити, аніж віддати противнику.
Економічні наслідки: зростання ВВП та громадянські дивіденди
Розрахунки показують, що світові обчислювальні потужності зростуть із 20 млн H100-еквівалентів у 2026 році до 60 млрд до 2034-го. Реальне зростання ВВП США в окремі періоди 2030-х років може сягати 50% на рік, але зайнятість впаде з 62% у 2027 році до 12% до 2040-го. Для компенсації пропонується запровадити «громадянські дивіденди» — виплати з доходів держави від ліцензування обчислень та роботів. Прогнози вражають: до 2032 року дивіденд становитиме $45 000 на людину, до 2035 — $1 млн, а до 2039 — $10 млн.
Альтернативні сценарії: від війни до олігархії
Автори протиставили Plan A чотирьом іншим шляхам розвитку подій. План B — США створюють коаліцію та тиснуть на Китай аж до кібератак, що веде до війни. План C — спроба домовитися, але під тиском компаній паузу знімають, що загрожує постійною олігархією. План D — мінімальне регулювання та гонка, що веде до втрати контролю та третьої світової війни. План S — повна безстрокова зупинка, яка ризикує розпастися та відновити гонку в хаосі.
Мій коментар як аналітика: Запропонований сценарій виглядає утопічно, особливо в частині «взаємно гарантованого знищення» та будівництва дата-центрів на території союзників. Однак він порушує критично важливе питання: чи зможе людство добровільно відмовитися від гонки за надінтелектом, коли ставки такі високі? Реалістичність плану викликає сумніви, але сама постановка проблеми — сигнал, який не можна ігнорувати.