Бутерін попереджає: ІІ-гіганти мріють про «світове панування», а людство застрягло між двома наївностями
Співзасновник Ethereum Віталік Бутерін знову втрутився в дискусію про майбутнє штучного інтелекту, і його слова — це не просто критика, а глибока аналітична оцінка поточної безвиході. Він заявив, що не бачить жодного реалістичного плану з управління переходом до штучного суперінтелекту (ASI). На його думку, людство опинилося перед вибором між двома сценаріями: «наївним» та «наївним у квадраті».
Приводом для цієї заяви стала суперечка навколо прогнозного сценарію «ШІ 2040» та його критиків. Бутерін зазначає, що обидві сторони «замкнені у взаємно несумісних картинах світу» щодо темпів розвитку ШІ. Сценарій «ШІ 2040» передбачає появу суперінтелекту до 2040 року практично за будь-якого розвитку подій, за винятком титанічних зусиль щодо його повної зупинки. Критики ж, за спостереженням розробника, називають такий прогноз наївним, переоцінюючи здатність людей до координації. При цьому вони самі, на думку Бутеріна, виявляють наївність, допускаючи, що перехід до суперінтелекту відбудеться гладко та безконфліктно за замовчуванням.
Бутерін підкреслює, що позиція критиків має сенс лише у світі, де ШІ залишається «звичайною технологією». Однак у світі, де суперінтелект можливий вже до 2030 року, вона, за його словами, не витримує критики. Сам Віталік зізнається у глибокій невизначеності: якби він був упевнений хоча б в одному зі сценаріїв, він би приєднався до відповідного табору. Але поки він не розуміє, в якому зі світів живе людство.
Побоювання щодо концентрації влади
Окремо Бутерін висловив дискомфорт від риторики деяких великих ШІ-компаній. Його насторожує настанова на кшталт: «відкритий код — це погано, а хороший результат той, де наші хлопці отримують контрольне світове панування». Він вважає, що в «нормальному» світі подібні заяви мали б викликати всі політичні тривожні сигнали одночасно.
Сам суперінтелект Бутерін розглядає як величезний ризик концентрації влади. Саме тому він просуває платформу d/acc, яка включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього.
Як знайти компроміс
Ключовим розробник Ethereum вважає пошук угоди, прийнятної для обох сторін. «Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — зазначив він.
Бутерін пропонує заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне». Як приклади він назвав суперпандемії, рівень безробіття вище 25% або появу автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути сповільнення або паузу. За його ідеєю, критики приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — очікуючи зворотного.
Звертаючись до голів технологічних гігантів, Бутерін визнав, що якби він був на місці Ілона Маска або Марка Цукерберга, то перебудував би соціальні платформи під пошук подібних взаємовигідних угод. Однак він одразу ж додав, що і ця ідея наївна.
Аналітичний коментар Cryptalist: Позиція Бутеріна — це рідкісний приклад системного мислення в хаосі ШІ-гонки. Його пропозиція щодо тригерів — це, по суті, спроба застосувати принципи смарт-контрактів до глобального управління ризиками. Поки ж ринок і розробники зациклені на швидкості, забуваючи, що в гонці без правил переможець може опинитися в порожньому та радіоактивному світі.