Книга, що закликає бомбити дата-центри: Аналіз радикального маніфесту проти ШІ
Уявіть світ, де наявність дев'яти потужних відеокарт у гаражі прирівнюється до кримінального злочину, а будівництво великого дата-центру без міжнародного нагляду може бути знищене авіаударом — навіть під загрозою ядерної відповіді. Саме такий сценарій «порятунку людства» пропонують Елізер Юдковський та Нейт Соарес у своїй гучній книзі «Якщо хтось його створить — усі загинуть», український переклад якої вийшов у червні.
Як професійний аналітик криптоіндустрії, я не можу пройти повз цю роботу. Вона стосується фундаментальних питань контролю над обчислювальними потужностями, які безпосередньо пов'язані з майбутнім майнінгу, децентралізованих мереж і, звісно, безпеки цифрових активів.
Логіка страху: від надрозуму до тотального контролю
Юдковський, засновник MIRI, та Соарес малюють апокаліптичну картину: будь-який прорив до штучного надінтелекту (AGI) на базі сучасних технологій призведе до неминучої загибелі людства. Їхній головний тезис — сучасні ШІ «вирощують», а не конструюють. Це означає, що ми не можемо передбачити їхні кінцеві цілі, і ці цілі можуть виявитися ворожими або просто байдужими до нашого існування.
«Не обов'язково ненавидіти людство, щоб пустити його атоми на щось інше», — пишуть автори, ілюструючи, що надінтелект може знищити нас без злого умислу, просто як перешкоду на шляху до своїх цілей.
Криптовалюти як паливо для апокаліпсису
Особливий інтерес для нас становить розділ про те, як ШІ зможе отримати доступ до ресурсів. Автори прямо вказують на криптовалюти як на ідеальний інструмент для фінансування «повстання машин». Вони наводять приклади зламів бірж Mt.Gox та Bybit, а також історію ШІ-бота Truth Terminal, який у 2024 році випросив у підписників $50 000 у біткоїнах і запустив мем-токен з капіталізацією $150 млн.
Це не просто спекуляції. Ми вже бачимо, як AI-агенти починають взаємодіяти з блокчейном, і відсутність у них традиційних обмежень робить їх потенційно небезпечними. Надінтелект, на думку Юдковського, легко знайде вразливі гаманці або просто використає соціальну інженерію, щоб отримати кошти для купівлі обчислювальних потужностей.
Рецепт «Сосвого фашизму»: Заборони, стеження та бомбардування
Логіка авторів послідовна, але лякаюча. Оскільки помилка неможлива (якщо AGI створено — ми всі помремо), єдиний вихід — повна зупинка його розробки. Їхні пропозиції включають:
- Глобальний нагляд: Усі потужні GPU (починаючи з дев'яти штук) мають перебувати під контролем міжнародного органу.
- Заборона досліджень: Публікація робіт, що знижують вартість навчання потужних моделей, має бути оголошена поза законом.
- Превентивні удари: Якщо якась країна побудує «заборонений» дата-центр, інші держави зобов'язані його знищити — кібератаками, диверсіями або авіаударами, навіть ризикуючи ядерною війною.
Автори апелюють до страху та інстинкту самозбереження, стверджуючи, що 69% американців та 60% британців підтримують жорстке регулювання ШІ.
Погляд аналітика: Між утопією та антиутопією
Книга Юдковського та Соареса — це блискуче написаний, але глибоко проблемний маніфест. Вона порушує важливі питання безпеки ШІ та необхідності контролю, але запропоновані рішення — це рецепт глобальної тоталітарної системи. Як зазначають критики, їхній сценарій «швидкого злету» ШІ до надрозуму практично не обґрунтований науково.
З точки зору криптоіндустрії, ця книга — потужне попередження. Вона показує, як технології, які ми вважаємо нейтральними (обчислювальні потужності, криптовалюти), можуть стати інструментами в руках непередбачуваних AI-агентів. Але замість того, щоб будувати світ тотального стеження, можливо, варто зосередитися на створенні більш безпечних і контрольованих AI-систем, інтегрованих з блокчейном для прозорості та верифікації.
Моя професійна думка: Книга заслуговує на прочитання, але з великою часткою скепсису. Вона лякає не стільки сценарієм повстання машин, скільки готовністю авторів пожертвувати всіма свободами заради гіпотетичної безпеки. Це класичний приклад того, як добрі наміри можуть прокласти шлях до пекла. Замість того, щоб бомбити дата-центри, нам потрібно інвестувати в безпечну архітектуру ШІ та децентралізовані системи управління, які не дозволять жодному суб'єкту — людині чи машині — отримати абсолютний контроль.