Бутерін проти «світового панування» ШІ: аналіз позиції творця Ethereum
Співзасновник Ethereum Віталік Бутерін виступив із різкою критикою на адресу найбільших гравців індустрії штучного інтелекту. На його думку, багато хто з них мріє про «світове панування» і не пропонує чіткого плану щодо управління переходом до штучного суперінтелекту (ASI). Бутерін зазначає, що людство опинилося перед вибором між двома вкрай наївними сценаріями.
Приводом для дискусії став прогнозний сценарій «ШІ 2040», який передбачає появу суперінтелекту до 2040 року практично за будь-якого розкладу. Винятком, на думку Бутеріна, стали б лише титанічні зусилля, спрямовані на повну зупинку розвитку ШІ. Критики цього сценарію, своєю чергою, називають його наївним в оцінці здатності людей до координації. Однак, як підкреслює сам Бутерін, ці критики так само наївні, вважаючи, що перехід до ASI відбудеться гладко за замовчуванням.
Ключова проблема, на думку аналітика, — риторика деяких ШІ-гігантів, які просувають наратив «відкритий код — це погано, а хороший результат — це коли наші хлопці отримують контроль над світовим пануванням». Бутерін вважає такий підхід не просто небезпечним, а політично тривожним. Сам суперінтелект він розглядає як колосальний ризик концентрації влади.
На противагу цьому Бутерін просуває концепцію d/acc — децентралізованого прискорення. Вона включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання та суспільної епістемології. Цінність цієї концепції в тому, що вона корисна незалежно від того, який сценарій майбутнього реалізується — зі швидким чи повільним розвитком ШІ.
Як компроміс Бутерін пропонує заздалегідь узгодити набір тригерів, що сигналізують про настання «серйозних подій»: наприклад, рівень безробіття вище 25%, поява автономної зброї або суперпандемії. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони мають серйозно розглянути уповільнення або паузу в розвитку ШІ. Це, за його задумом, дозволило б скептикам і оптимістам дійти консенсусу: перші сподіватимуться, що тригери не спрацюють, другі — що вони спрацюють, і обидві сторони будуть зацікавлені в дотриманні домовленостей.
Думка експерта: Позиція Бутеріна — це не просто філософська суперечка. Це прагматичний погляд на ризик концентрації влади в епоху ШІ. Його пропозиція щодо тригерів — це спроба створити механізм управління ризиками, який міг би об'єднати як ультра-оптимістів із Кремнієвої долини, так і їхніх критиків. Однак, як визнає і сам Бутерін, ідея про те, що Ілон Маск або Марк Цукерберг добровільно перебудують свої платформи під пошук таких взаємовигідних угод, можливо, теж наївна. Тим не менш, сам факт постановки питання про необхідність формальних механізмів управління ASI — це важливий крок вперед для всієї індустрії.