Бутерін проти ІІ-гігантів: мрії про світове панування та наївність сценаріїв
Співзасновник Ethereum Віталік Бутерін виступив із різкою критикою на адресу найбільших гравців індустрії штучного інтелекту. На його думку, людство застрягло між двома вкрай наївними сценаріями розвитку подій, і жоден із них не пропонує реального плану управління переходом до суперінтелекту (ASI).
Приводом для дискусії став прогнозний сценарій «ШІ 2040» та його опоненти. Бутерін зазначає, що обидві сторони «замкнені у взаємно несумісних картинах світу» щодо швидкості розвитку ШІ. Згідно з його аналізом, сценарій «ШІ 2040» передбачає появу суперінтелекту до 2040 року практично за будь-якого розкладу, за винятком титанічних зусиль щодо його повної зупинки. Критики ж, за спостереженням розробника, називають такий прогноз наївним в оцінці здатності людей до координації, але при цьому самі не помічають наївності в припущенні, що перехід до ASI за замовчуванням пройде гладко.
Бутерін підкреслює: позиція критиків має сенс лише у світі, де ШІ залишається «звичайною технологією». У світі ж, де суперінтелект можливий уже до 2030 року, вона, за його словами, не витримує критики. Сам Віталік визнає невизначеність і не розуміє, у якому з двох світів живе людство.
Побоювання щодо концентрації влади
Особливий дискомфорт у Бутеріна викликає риторика деяких великих ШІ-компаній. Його насторожує настанова на кшталт «відкритий код — це погано, а хороший результат той, де наші хлопці отримують контрольне світове панування». На його думку, у «нормальному» світі подібні заяви мають одночасно вмикати всі політичні тривожні сигнали. Сам суперінтелект він розглядає як величезний ризик концентрації влади.
Саме тому Бутерін просуває платформу d/acc, що включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього. При цьому він позитивно оцінив те, що план «ШІ 2040» став більш дружнім до відкритого коду і навіть прописує його.
Як знайти компроміс
Ключовим розробник Ethereum вважає пошук угоди, прийнятної для обох сторін. «Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — зазначив Віталік.
Він запропонував заздалегідь узгодити набір тригерів, які сигналізуватимуть про те, що «відбувається щось серйозне» — наприклад, суперпандемії, рівень безробіття вище 25% або поява автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути сповільнення або паузу. За його ідеєю, критики приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — очікуючи зворотного.
Бутерін також звернувся до голів технологічних гігантів. За його словами, будь він на місці Ілона Маска чи Марка Цукерберга, він перебудував би соціальні платформи під пошук подібних взаємовигідних угод. Втім, він визнав, що й ця ідея наївна.
Аналітичний коментар Cryptalist: Позиція Бутеріна — це не просто критика, а спроба запропонувати децентралізований фреймворк для управління ризиками ASI. У світі, де блокчейн і криптографія стають інструментами координації, його ідеї про тригери та d/acc можуть виявитися більш прагматичними, ніж здаються на перший погляд. Однак наївність, яку він сам визнає, — це виклик, який вимагатиме від обох сторін не лише технічної, а й політичної зрілості.