Співзасновник Ethereum Віталік Бутерін знову окреслив свою принципову позицію щодо розвитку штучного інтелекту. Цього разу його критика спрямована на найбільші ІІ-компанії, чиї амбіції, на його думку, межують з відвертими мріями про «світове панування». У центрі дискусії опинився сценарій «ІІ 2040», який, як вважає Бутерін, є вибором між «наївним» та «наївним у квадраті» підходом до управління переходом до штучного суперінтелекту (ASI).

Згідно з моїм аналізом, суть суперечки зводиться до фундаментального розриву у сприйнятті темпів та ризиків ІІ. Сценарій «ІІ 2040» передбачає, що ASI стане реальністю майже за будь-якого розкладу до 2040 року, якщо тільки людство не докладе титанічних зусиль для його повної зупинки. Критики цього сценарію, за спостереженням Бутеріна, дорікають йому в наївній вірі в здатність людей до координації. Але сам розробник парирує: вони наївні, вважаючи, що перехід до ASI відбудеться гладко та безконфліктно за замовчуванням.

Бутерін підкреслює, що позиція критиків має сенс лише у світі, де ІІ залишається «звичайною технологією». Однак у світі, де ASI можливий вже до 2030 року, ця критика просто не витримує перевірки. Сам Віталік зізнається в невизначеності: він не може з упевненістю сказати, в якому з цих світів ми живемо. Якби він був упевнений хоча б в одному сценарії, він би приєднався до відповідного табору. Це визнання — ключовий сигнал для ринку: навіть провідні уми галузі не мають єдиного бачення майбутнього.

Побоювання щодо концентрації влади

Особливе занепокоєння Бутеріна викликає риторика гігантів на кшталт OpenAI та інших. Його насторожує настанова, що «відкритий код — це погано, а хороший результат — це коли наші хлопці отримують контроль над світовим пануванням». На його думку, в «нормальному» світі подібні заяви мали б включати всі політичні тривожні сигнали одночасно. Сам суперінтелект він розглядає як колосальний ризик концентрації влади.

Саме тому Бутерін послідовно просуває платформу d/acc (defensive acceleration). Ця концепція включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього — як при швидкому, так і при повільному розвитку ІІ. Примітно, що Віталік позитивно оцінив те, що план «ІІ 2040» став більш дружнім до відкритого коду і навіть наказує його використання.

Пошук компромісу

Ключовим елементом своєї стратегії Бутерін вбачає пошук угоди, прийнятної для обох сторін. Він пропонує заздалегідь узгодити набір тригерів, які сигналізуватимуть про те, що «відбувається щось серйозне». Як приклади він називає суперпандемії, рівень безробіття вище 25% або появу автономної зброї.

Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути сповільнення або паузу в розвитку. Ідея в тому, що критики приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — очікуючи зворотного. Бутерін навіть звернувся до голів технологічних гігантів, заявивши, що на місці Ілона Маска або Марка Цукерберга він би перебудував соціальні платформи під пошук подібних взаємовигідних угод. Втім, він сам визнає, що і ця ідея наївна.

Мій аналіз: Позиція Бутеріна — це, по суті, заклик до децентралізації управління ризиками ASI. У світі, де криптовалюти та блокчейн пропонують альтернативні моделі управління, його критика ІІ-гігантів — це не просто філософська суперечка, а захист базових принципів розподіленої влади. Ринку варто уважно стежити за розвитком d/acc, оскільки саме ці технології можуть стати мостом між криптосвітом та безпечним розвитком ІІ.