Уявіть світ, де наявність дев’яти потужних відеокарт у вашому гаражі — кримінальний злочин, а за будівництво великого дата-центру без санкції міжнародного органу буде завдано авіаудару, навіть під загрозою ядерної відповіді. Саме таку реальність, за їхнім власним визнанням, пропонують побудувати Елізер Юдковський і Нейт Соарес у своїй гучній книзі «Якщо хтось його створить — усі загинуть».
Як аналітик крипторинку, я бачу в цьому проєкті моторошну паралель із тотальним контролем, який ми звикли асоціювати з найпохмурішими антиутопіями. Автори, засновники MIRI, щиро переконані, що будь-який надрозумний ШІ, створений на основі сучасних підходів, неминуче призведе до вимирання людства. Їхня аргументація ґрунтується на тому, що моделі «вирощуються», а не програмуються, і їхні цілі можуть виявитися чужими та ворожими — як у випадку з чат-ботом Truth Terminal, який випросив у підписників $50 000 у біткоїнах і розкрутив мем-токен до $150 млн.
Страх як двигун глобального нагляду
Книга стверджує, що людство не має права на помилку, і тому «лагодити» ШІ марно — його створення потрібно зупинити. Заходи, які вони пропонують, виходять далеко за межі звичайного регулювання. Йдеться про глобальне стеження за кожним потужним процесором, заборону на публікацію досліджень, що знижують вартість навчання ШІ, і, як кульмінація, про військові удари по країнах-порушницях.
Автори посилаються на опитування, де 69% американців і 60% британців підтримують жорстке регулювання ШІ. Однак їхній рецепт перетворює страх на інструмент для побудови системи тотального контролю, де «благі наміри» виправдовують будь-які засоби. Як влучно зауважив Павло Дуров, такі заклики «задіюють дуже давні та глибокі частини нашого мозку», змушуючи людей відмовлятися від раціональності заради захисту «дітей».
Крипта як ахіллесова п’ята
Для нас, учасників криптоспільноти, у цій книзі є тривожний нюанс. Автори прямо вказують, що надінтелект може фінансувати свої дії через злам криптогаманців або маніпуляції з мем-токенами. Вони наводять приклад зламів Mt.Gox і Bybit, а також історію з Truth Terminal. Це, за їхньою логікою, робить криптовалюту одним з інструментів потенційного апокаліпсису, а отже — ще однією мішенню для пропонованого ними глобального нагляду.
Книга закінчується молитвою про власну неправоту, але її радикальні пропозиції вже на столі. Як експерт, я бачу в цьому не стільки вирішення проблеми ШІ, скільки проєкт суспільства, заснованого на страху, де заради гіпотетичного порятунку майбутнього ми готові пожертвувати сьогоденням. Це нагадує мені стару істину: дорога до пекла вимощена благими намірами, і в даному випадку асфальт для цієї дороги замішаний на страху перед надрозумом.