Співзасновник Ethereum Віталік Бутерін знову опинився в центрі дискусії про майбутнє штучного інтелекту. Цього разу його критика спрямована на гігантів ІІ-індустрії, чиї амбіції, на його думку, межують із мріями про «світове панування». Бутерін заявив, що не бачить жодного чіткого та реалістичного плану з управління переходом до штучного суперінтелекту (ASI). Людство, за його словами, застрягло між двома сценаріями: «наївним» та «наївним у квадраті».
Приводом для заяв стала дискусія навколо прогнозного сценарію «ІІ 2040», який передбачає появу суперінтелекту до 2040 року майже за будь-якого розвитку подій. Критики цього сценарію, на думку Бутеріна, наївно вважають, що люди зможуть скоординуватися та зупинити цей процес. Однак самі вони, як підкреслює розробник, не помічають власної наївності, допускаючи, що перехід до ASI відбудеться гладко та безболісно.
Бутерін зазначає, що позиція критиків має сенс лише у світі, де ІІ залишається «звичайною технологією». Але у світі, де суперінтелект можливий вже до 2030 року, вона не витримує жодної критики. Сам він визнає свою невизначеність: якби був упевнений хоча б в одному зі сценаріїв, то приєднався б до відповідного табору. Поки ж він не розуміє, в якому зі світів живе людство.
Побоювання щодо концентрації влади
Окремо Бутерін висловив дискомфорт від риторики деяких великих ІІ-компаній. Його насторожує настанова на кшталт: «відкритий код — це погано, а хороший результат — той, де наші хлопці отримують контрольне світове панування». На його думку, в «нормальному» світі подібні заяви мали б викликати всі політичні тривожні сигнали одночасно.
Сам суперінтелект Бутерін розглядає як величезний ризик концентрації влади. Саме тому він просуває платформу під назвою d/acc, яка включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього.
Як знайти компроміс
Ключовим розробник Ethereum вважає пошук угоди, прийнятної для обох сторін. «Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — зазначив Бутерін.
Він запропонував заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне». Як приклади він назвав суперпандемії, рівень безробіття вище 25% або появу автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозніше розглянути сповільнення або паузу.
Бутерін також звернувся до голів технологічних гігантів, припустивши, що будь він на місці Ілона Маска чи Марка Цукерберга, то перебудував би соціальні платформи під пошук подібних взаємовигідних угод. Втім, він визнав, що й ця ідея наївна.
Думка аналітика: Позиція Бутеріна — це рідкісний приклад раціонального підходу до дискусії про ІІ. Замість того, щоб ставати на один із боків, він пропонує механізм, який може спрацювати в будь-якому сценарії. Для криптоспільноти це особливо цінно: принципи децентралізації та відкритого коду, які відстоює Бутерін, можуть стати основою для побудови безпечного майбутнього, незалежно від того, настане сингулярність завтра чи через 20 років.