Віталік Бутерін проти «наївних» сценаріїв ШІ: критика гігантів та пошук компромісу
Співзасновник Ethereum Віталік Бутерін знову привернув увагу криптоспільноти, виступивши з різкою критикою на адресу великих гравців індустрії штучного інтелекту. Його головний меседж: людство застрягло між двома однаково наївними сценаріями розвитку подій — «наївним» та «наївним у квадраті». І жоден із них не пропонує реалістичного плану управління переходом до штучного суперінтелекту (ASI).
Суперечка навколо «ШІ 2040»
Приводом для дискусії став прогнозний сценарій під назвою «ШІ 2040», який передбачає появу суперінтелекту до 2040 року практично за будь-якого розкладу — за винятком титанічних зусиль щодо його повного блокування. Критики цього сценарію, за спостереженням Бутеріна, називають його наївним в оцінці здатності людей до координації. Однак сам розробник Ethereum бачить тут парадокс: опоненти не помічають власної наївності, допускаючи, що перехід до ASI пройде гладко та безконфліктно.
Бутерін підкреслює, що позиція критиків має сенс лише у світі, де ШІ залишається «звичайною технологією». Але у світі, де суперінтелект можливий уже до 2030 року, вона, за його словами, не витримує жодної критики. Сам Віталік зізнається в невизначеності: якби він був упевнений хоча б в одному зі сценаріїв, то приєднався б до відповідного табору. Поки ж він не розуміє, у якому зі світів живе людство.
Побоювання щодо концентрації влади
Окреме занепокоєння Бутеріна викликає риторика деяких ШІ-гігантів. Його насторожує настанова на кшталт: «відкритий код — це погано, а хороший результат — той, де наші хлопці отримують контрольне світове панування». На його думку, у «нормальному» світі подібні заяви мали б включати всі політичні тривожні сигнали одночасно.
Сам суперінтелект Бутерін розглядає як величезний ризик концентрації влади. Саме тому він просуває платформу d/acc, яка включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього — як при швидкому, так і при повільному розвитку ШІ.
Пошук компромісу
Ключовим для розробника Ethereum є пошук угоди, прийнятної для обох сторін. «Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — зазначає Бутерін.
Він пропонує заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне». Як приклади він називає суперпандемії, рівень безробіття вище 25% або появу автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути сповільнення або паузу. За його ідеєю, критики приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — очікуючи зворотного.
Бутерін також звернувся до голів технологічних гігантів, заявивши, що на місці Ілона Маска або Марка Цукерберга він перебудував би соціальні платформи під пошук подібних взаємовигідних угод. Втім, він визнав, що й ця ідея наївна.
Аналітика Cryptalist: Позиція Бутеріна — це рідкісний для криптоіндустрії приклад прагматичного погляду на майбутнє ШІ. Він не впадає ні в утопію децентралізації, ні в паніку перед «повстанням машин», а пропонує конкретний механізм управління ризиками — тригерну систему, яка може стати основою для глобального консенсусу. Якщо ШІ-гіганти проігнорують цей підхід, людство ризикує опинитися заручником або їхнього «наївного» оптимізму, або такого ж наївного страху.