Співзасновник Ethereum Віталік Бутерін вступив у гостру дискусію про майбутнє штучного інтелекту, заявивши, що не бачить жодного чіткого сценарію переходу до суперінтелекту (ASI). На його думку, людство застрягло між «наївним» та «наївним у квадраті» варіантами розвитку подій.
Приводом для заяви стала полеміка навколо прогностичного сценарію «ШІ 2040» та його критиків. Бутерін підкреслює, що обидві сторони конфлікту «замкнені у взаємно несумісних картинах світу» щодо швидкості розвитку ШІ.
Суть суперечки: швидкість vs. контроль
Сценарій «ШІ 2040» передбачає появу суперінтелекту до 2040 року практично за будь-якого розвитку подій — за винятком титанічних зусиль щодо його повної зупинки. Критики ж, за спостереженням розробника, називають такий прогноз наївним в оцінці здатності людей до координації. Однак, як зазначає Бутерін, вони самі не помічають наївності в припущенні, що перехід до ASI за замовчуванням пройде гладко.
Позиція критиків має сенс лише у світі, де ШІ залишається «звичайною технологією». У світі ж, де суперінтелект можливий уже до 2030 року, вона, за його словами, не витримує критики. Сам Бутерін визнає невизначеність: якби він був упевнений хоча б в одному зі сценаріїв, то приєднався б до відповідного табору. Однак поки він не розуміє, в якому зі світів живе людство.
Побоювання щодо концентрації влади
Особливий дискомфорт у Бутеріна викликає риторика великих ШІ-компаній. Його насторожує настанова на кшталт: «відкритий код — це погано, а хороший результат — той, де наші хлопці отримують контрольне світове панування». На його думку, в «нормальному» світі подібні заяви мали б включати всі політичні тривожні сигнали одночасно.
Сам суперінтелект Віталік розглядає як величезний ризик концентрації влади. Саме тому він просуває платформу d/acc, що включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього.
Пошук компромісу
Ключовим розробник Ethereum вважає пошук угоди, прийнятної для обох сторін. «Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — зазначає Бутерін.
Він запропонував заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне» — наприклад, суперпандемії, рівень безробіття вище 25% або поява автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути сповільнення або паузу.
За задумом Бутеріна, критики приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — очікуючи зворотного. Окремо він звернувся до голів технологічних гігантів, заявивши, що на місці Ілона Маска або Марка Цукерберга перебудував би соціальні платформи під пошук подібних взаємовигідних угод. Втім, він визнав, що й ця ідея наївна.
Думка експерта: Позиція Бутеріна — рідкісний приклад раціонального погляду на ШІ-гонку в індустрії, де домінують або техно-оптимізм, або алармізм. Його пропозиція з тригерами — спроба впровадити елементи смарт-контрактної логіки в управління ризиками ASI. Однак, як і у випадку з DeFi, ключове питання — хто контролюватиме оракули та гарантуватиме виконання угоди, коли ставки стануть по-справжньому високими.