Віталік Бутерін виступив проти «світового панування» штучного інтелекту, розкритикувавши гігантів галузі та запропонувавши пошук компромісу.
Співзасновник Ethereum Віталік Бутерін виступив із різкою критикою на адресу найбільших гравців індустрії штучного інтелекту. На його думку, риторика, що лунає від деяких ІІ-гігантів, межує з відвертими мріями про «світове панування» і не пропонує жодного чіткого плану щодо безпечного управління переходом до штучного суперінтелекту (ASI).
Приводом для заяви Бутеріна стала дискусія навколо прогностичного сценарію «ІІ 2040» та його критиків. Як я аналізую ситуацію, творець Ethereum бачить фундаментальну проблему: обидві сторони дискусії застрягли у «взаємно несумісних картинах світу» щодо темпів розвитку штучного інтелекту.
Наївність у квадраті: два сценарії майбутнього
Бутерін зазначає, що сценарій «ІІ 2040» передбачає появу суперінтелекту до 2040 року практично за будь-якого розвитку подій, за винятком титанічних зусиль щодо його повної зупинки. Критики ж, за його спостереженням, називають такий прогноз наївним в оцінці здатності людства до координації. Однак, як підкреслює аналітик, вони самі не помічають власної наївності, припускаючи, що перехід до ASI відбудеться гладко і за замовчуванням.
По суті, за словами Бутеріна, людство застрягло перед вибором між «наївним» і «наївним у квадраті» сценаріями. Позиція критиків має сенс лише у світі, де ІІ залишається «звичайною технологією». Але у світі, де суперінтелект можливий уже до 2030 року, вона, на його переконання, не витримує критики. Сам Віталік зізнається у невизначеності: якби він був упевнений хоча б в одному зі сценаріїв, він би приєднався до відповідного табору.
Концентрація влади як головний ризик
Окремої уваги заслуговує критика Бутеріним риторики самих ІІ-компаній. Його насторожує настанова на кшталт: «відкритий код — це погано, а хороший результат — той, де наші хлопці отримують контрольне світове панування». Я вважаю, що це вкрай небезпечний сигнал. У нормальному світі подібні заяви мали б вмикати всі політичні тривожні сигнали одночасно. Сам суперінтелект Бутерін розглядає як колосальний ризик концентрації влади.
Саме тому він просуває платформу d/acc, яка включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього. Примітно, що Бутерін позитивно оцінив те, що план «ІІ 2040» став більш дружнім до відкритого коду і навіть наказує його.
Пошук компромісу: тригери для паузи
Ключовим елементом своєї позиції Бутерін вважає пошук угоди, прийнятної для обох сторін. Він пропонує заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне». Як приклади він називає суперпандемії, рівень безробіття вище 25% або появу автономної зброї.
Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути уповільнення або паузу. Критики, за його ідеєю, приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — очікуючи зворотного.
Звертаючись до голів технологічних гігантів, Бутерін припустив, що на місці Ілона Маска або Марка Цукерберга він перебудував би соціальні платформи під пошук подібних взаємовигідних угод. Втім, він сам визнає, що і ця ідея наївна.
Думка експерта: Позиція Бутеріна — це рідкісний приклад раціонального підходу до екзистенційних ризиків ІІ. Його пропозиція щодо «тригерів» — це не технічне рішення, а політичний механізм, який може стати основою для глобального консенсусу. Криптоспільноті варто придивитися до цієї логіки, адже децентралізація та формальна верифікація — це саме ті інструменти, які можуть забезпечити прозорість і надійність таких угод.