Віталік Бутерін виступає проти «світового панування» ШІ: критика гігантів та пошук компромісу
Співзасновник Ethereum, Віталік Бутерін, знову вступив у дискусію про майбутнє штучного інтелекту, цього разу — з жорсткою критикою на адресу великих ІІ-компаній. Його головний меседж: людство застрягло між двома вкрай наївними сценаріями розвитку подій, і жоден із них не пропонує реального плану управління переходом до штучного суперінтелекту (ASI).
Приводом для висловлювань стала дискусія навколо прогнозного сценарію «ІІ 2040», який передбачає появу ASI до 2040 року практично за будь-якого розкладу, за винятком титанічних зусиль щодо його повної зупинки. Бутерін зазначає, що критики цього сценарію, своєю чергою, демонструють не меншу наївність, вважаючи, що перехід до суперінтелекту пройде гладко та безболісно. На його думку, обидві сторони «замкнені у взаємно несумісних картинах світу»: одні вірять у неминучість швидкого прогресу, інші — у здатність людства скоординовано його контролювати. Сам Віталік визнає невизначеність: він не розуміє, в якому з цих світів ми насправді живемо.
Концентрація влади як головна загроза
Особливе занепокоєння Бутеріна викликає риторика окремих ІІ-гігантів, яку він називає «наївною в квадраті». Його насторожує настанова, за якої «відкритий код — це погано, а хороший результат — той, де наші хлопці отримують контрольне світове панування». На думку співзасновника Ethereum, у «нормальному» світі подібні заяви мали б одночасно вмикати всі політичні тривожні сигнали. Сам суперінтелект він розглядає як колосальний ризик концентрації влади.
Саме тому Бутерін просуває концепцію платформи d/acc, яка робить ставку на розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цього підходу в тому, що він корисний за будь-якого сценарію майбутнього — як при швидкому, так і при повільному розвитку ASI.
Пошук взаємовигідної угоди
Ключовою ідеєю Бутеріна стає пошук компромісу, прийнятного для обох сторін. Він пропонує заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне». Як приклади він називає суперпандемії, рівень безробіття вище 25% або появу автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони погоджуються серйозно розглянути уповільнення або паузу в розвитку.
«Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — підкреслює Бутерін.
Він також звернувся безпосередньо до голів технологічних гігантів, заявивши, що на місці Ілона Маска або Марка Цукерберга перебудував би соціальні платформи під пошук таких взаємовигідних угод. Втім, він одразу ж визнав, що й ця ідея може бути наївною.
Думка експерта: Позиція Бутеріна — рідкісний випадок раціонального погляду на проблему ASI в середовищі, де домінують або техно-оптимізм, або панічний песимізм. Його пропозиція щодо тригерів — це спроба створити «страхувальну сітку» для людства, яка може спрацювати незалежно від того, наскільки швидко ми рухаємося до суперінтелекту. Питання лише в тому, чи готові ІІ-гіганти добровільно обмежити свої амбіції заради спільного блага.