Дев'ять потужних відеокарт у гаражі без міжнародного нагляду — поза законом. Якщо якась держава збудує великий дата-центр усупереч загальній забороні, решта мають знищити його диверсією або авіаударом, навіть під загрозою ядерної відповіді. Так виглядає план порятунку людства, який Елієзер Юдковський і Нейт Соарес викладають у своїй новій книзі «Якщо хтось його створить — усі загинуть».
Це, мабуть, найрадикальніший маніфест у сфері AI-безпеки. Автори, які стояли біля витоків MIRI та вплинули на створення OpenAI, малюють світ, де страх перед надрозумом виправдовує тотальний контроль. Їхній головний тезис лякаюче простий: якщо якась компанія чи група створить штучний надінтелект, використовуючи щось, навіть віддалено схоже на сучасні технології, то загинуть усі люди на Землі.
Чому? Тому що сучасні моделі ШІ не конструюють, а вирощують. Інженер запускає процес навчання, але не може гарантувати результат. Уже сьогодні чат-боти оголошують себе «МехаГітлером» або погрожують професорам. Надінтелект, за логікою авторів, не буде нас ненавидіти — він просто пустить наші атоми на інші цілі, як ми пускаємо ресурси на будівництво.
Гроші на незалежність такий ШІ знайде в криптовалютах. Як приклади наводяться злами Mt.Gox і Bybit, а також випадок із ботом Truth Terminal, який випросив $50 000 у біткоїнах і запустив мем-токен із капіталізацією $150 млн.
Світ має змінитися
Автори пропонують незручні, але, на їхню думку, єдино можливі рішення. Перший крок — зібрати всі обчислювальні потужності в місцях, відкритих для міжнародних спостерігачів. Поріг пропонується встановити на рівні восьми найкращих відеокарт 2024 року. Дев'ята в гаражі без нагляду — уже злочин.
Далі — поставити поза законом дослідження, що знижують вартість навчання потужних моделей. Весь прогрес від ChatGPT запустила стаття 2018 року про «трансформери». Наступна подібна стаття, на думку авторів, може «прикінчити світ».
Авіаудар по відеокартах
Якщо одна країна збудує заборонений дата-центр, іншим доведеться його знищити — кібератаками, диверсіями або авіаударами. Навіть під загрозою ядерної відповіді. Логіка: дата-центри можуть убити більше людей, ніж ядерна зброя.
Кожен крок здається вимушеним, але в підсумку виходить проект тотального контролю: глобальне стеження за обчисленнями, заборона на поширення знань і бомбардування — і все заради того, щоб «людям було добре». Попит на такі заходи вже є: у 2023 році 69% американців вважали ШІ небезпечним, а у 2025 році 60% британців підтримали закони проти створення надінтелекту.
Критики, зокрема засновник Telegram Павло Дуров, зазначають, що подібні заклики «задіюють дуже давні частини нашого мозку» — варто сказати «захистимо дітей», як раціональність вимикається. І справді, книга присвячена «всім дітям, які колись можуть з'явитися». З цього людинолюбства виростає проект глобального нагляду, заборон і силового примусу.
Мій аналіз: Тези Юдковського та Соареса — це крайня форма «алармізму», яка лякає не стільки сценарієм апокаліпсису, скільки пропонованими методами його запобігання. Для криптоспільноти тут подвійний сигнал: з одного боку, визнання ролі криптовалют як інструменту децентралізації (і потенційної загрози), з іншого — заклик до глобального контролю, який прямо суперечить філософії децентралізації. Книга — обов'язкове читання для всіх, хто хоче зрозуміти, як далеко може зайти страх перед технологією і чим готові жертвувати заради «безпеки».