Бутерін проти ІІ-диктатури: чому мрії про «світове панування» небезпечні для людства
Співзасновник Ethereum Віталік Бутерін знову втрутився в дискусію про майбутнє штучного інтелекту, цього разу — з жорсткою критикою гігантів індустрії. Його головний тезис: людство застрягло між двома «наївними» сценаріями, і жоден із них не пропонує реального плану управління переходом до штучного суперінтелекту (ASI).
Приводом для заяви стала суперечка навколо сценарію «ШІ 2040», який передбачає неминучу появу ASI до зазначеного терміну практично за будь-якого розкладу — якщо тільки людство не докладе титанічних зусиль, щоб його зупинити. Критики, на думку Бутеріна, називають цей прогноз наївним, переоцінюючи здатність людей до координації. Але самі вони, як підкреслює Віталік, впадають в іншу крайність, наївно вважаючи, що перехід до суперінтелекту відбудеться гладко та безболісно.
Червоні прапорці від творця Ethereum
Особливе занепокоєння Бутеріна викликає риторика деяких великих ШІ-компаній. Його насторожує настанова, коли «відкритий код — це погано, а хороший результат — це коли наші хлопці отримують контрольне світове панування». На думку аналітика, у будь-якому «нормальному» світі подібні заяви мали б викликати всі політичні тривожні сигнали одночасно. Сам суперінтелект він розглядає як колосальний ризик концентрації влади.
Саме тому Бутерін просуває концепцію d/acc — платформу, що об'єднує формальну верифікацію, криптографію, захищене відкрите обладнання, стійкість до пандемій та суспільну епістемологію. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього — як із швидким приходом ASI, так і без нього.
Пошук компромісу: тригери для людства
Ключовим рішенням Бутерін вважає пошук угоди, прийнятної для обох сторін. Він пропонує заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне» — наприклад, суперпандемія, безробіття вище 25% або поява автономної зброї. Якщо достатня кількість таких тригерів спрацює, сторони зобов'язуються серйозно розглянути уповільнення або паузу в розвитку ШІ.
Віталік навіть звернувся до лідерів техногігантів: будь він на місці Ілона Маска або Марка Цукерберга, він перебудував би соціальні платформи під пошук таких взаємовигідних угод. Втім, він сам визнає, що й ця ідея, можливо, наївна.
Думка експерта: Позиція Бутеріна — це не просто критика, а спроба навести мости між двома полярними таборами. Ринок криптовалют, який значною мірою будується на принципах децентралізації та відкритості, особливо чутливий до ризиків централізації влади в руках ШІ-монополій. Запропоновані ним «тригери» — це, по суті, спроба створити смарт-контракт для всього людства, що виглядає одночасно і геніально, і утопічно. Однак у світі, де технологічні гіганти вже контролюють величезні масиви даних, без таких механізмів ми ризикуємо отримати не суперінтелект, а супердиктатуру.