Бутерин проти «світового панування» ШІ: наївність чи небезпека?
Співзасновник Ethereum Віталік Бутерін виступив із різкою критикою на адресу великих гравців індустрії штучного інтелекту, звинувативши їх у небезпечних амбіціях та відсутності чіткого плану щодо управління переходом до штучного суперінтелекту (ASI). За його словами, людство опинилося перед вибором між двома «наївними» сценаріями, жоден із яких не виглядає переконливо.
Суперечка про швидкість розвитку ШІ
Приводом для дискусії став прогнозний сценарій «ШІ 2040», який передбачає появу суперінтелекту до 2040 року практично за будь-якого розкладу. Бутерін зазначає, що критики цього сценарію, навпаки, вважають його надто оптимістичним в оцінці здатності людей до координації. Однак сам розробник Ethereum вказує на їхню власну наївність: вони вважають, що перехід до ASI за замовчуванням відбудеться гладко.
Бутерін підкреслює, що позиція скептиків має сенс лише у світі, де ШІ залишається «звичайною технологією». Але якщо суперінтелект стане можливим уже до 2030 року, їхні аргументи, на його думку, розсипаються. Сам Віталік зізнається у невизначеності: він не розуміє, в якому з цих двох світів ми живемо, і не готовий беззастережно приєднатися до жодного з таборів.
Побоювання щодо концентрації влади
Особливе занепокоєння Бутеріна викликає риторика деяких ШІ-гігантів, яку він характеризує як «відкритий код — це погано, а хороший результат — коли наші хлопці отримують контроль над світовим пануванням». На його думку, такі заяви мають активувати всі політичні тривожні сигнали одночасно. Суперінтелект він розглядає як колосальний ризик концентрації влади.
Саме тому Бутерін просуває платформу d/acc, яка включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього.
Пошук компромісу
Ключовим для розробника Ethereum є пошук угоди, прийнятної для обох сторін. Бутерін пропонує заздалегідь узгодити набір тригерів, які сигналізуватимуть про те, що «відбувається щось серйозне» — наприклад, суперпандемії, рівень безробіття вище 25% або поява автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути уповільнення або паузу.
Звертаючись до керівників технологічних гігантів, Бутерін пропонує перебудувати соціальні платформи під пошук взаємовигідних рішень, хоча й визнає наївність цієї ідеї.
Думка експерта: Бутерін знову демонструє системне мислення, виводячи дискусію за рамки суто технологічних суперечок. Його пропозиція про тригери — це спроба створити механізм управління ризиками, який може бути прийнятий обома сторонами. Однак питання залишається відкритим: чи готові лідери ШІ-індустрії поступитися амбіціями заради безпеки?