Віталік Бутерін: ІІ-гіганти мріють про «світове панування», а людство застрягло між двома «наївностями»
Співзасновник Ethereum Віталік Бутерін виступив із різкою критикою на адресу найбільших гравців індустрії штучного інтелекту. На його думку, дискусія навколо переходу до штучного суперінтелекту (ASI) зайшла в глухий кут: людство опинилося перед вибором між «наївним» та «наївним у квадраті» сценаріями розвитку подій.
Суть суперечки: швидкість vs. контроль
Приводом для заяви Бутеріна стала дискусія навколо прогнозного сценарію «ШІ 2040», який передбачає появу суперінтелекту до 2040 року практично за будь-якого розкладу — за винятком титанічних зусиль щодо його повної зупинки. Критики цього сценарію, за спостереженнями розробника, називають його наївним в оцінці здатності людства до координації. Однак самі вони, стверджує Бутерін, виявляють не меншу наївність, вважаючи, що перехід до ASI відбудеться гладко та за замовчуванням.
Бутерін підкреслює: позиція критиків має сенс лише у світі, де ШІ залишається «звичайною технологією». Але у світі, де суперінтелект можливий вже до 2030 року, вона, за його словами, не витримує критики. Сам Віталік зізнається у невизначеності: будь він упевнений хоча б в одному зі сценаріїв, він приєднався б до відповідного табору. Поки ж він не розуміє, в якому зі світів живе людство.
Побоювання щодо концентрації влади
Окремо Бутерін висловив дискомфорт від риторики деяких великих ШІ-компаній. Його насторожує настанова на кшталт: «відкритий код — це погано, а хороший результат — той, де наші хлопці отримують контрольне світове панування». У «нормальному» світі, вважає він, подібні заяви мають включати всі політичні тривожні сигнали одночасно. Сам суперінтелект Бутерін розглядає як величезний ризик концентрації влади.
Саме тому він просуває платформу d/acc, яка включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання, стійкості до пандемій та суспільної епістемології. Цінність цих напрямків у тому, що вони корисні в обох сценаріях майбутнього. При цьому Бутерін позитивно оцінив, що план «ШІ 2040» став більш дружнім до відкритого коду і навіть наказує його.
Як знайти компроміс
Ключовим розробник Ethereum вважає пошук угоди, прийнятної для обох сторін. «Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — зазначив він.
Бутерін запропонував заздалегідь узгодити набір тригерів, що сигналізують про те, що «відбувається щось серйозне». Як приклади він назвав суперпандемії, рівень безробіття вище 25% або появу автономної зброї. Якщо достатня кількість таких тригерів спрацює в обумовлений термін, сторони заздалегідь погоджуються серйозно розглянути уповільнення або паузу. За його ідеєю, критики приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — очікуючи зворотного.
Окремо Бутерін звернувся до голів технологічних гігантів. За його словами, будь він на місці Ілона Маска або Марка Цукерберга, він перебудував би соціальні платформи під пошук подібних взаємовигідних угод. Втім, він визнав, що і ця ідея наївна.
Коментар аналітика: Позиція Бутеріна — це рідкісний випадок, коли один із ключових архітекторів криптоіндустрії виходить за межі своєї екосистеми та пропонує глобальний фреймворк для управління ризиками ASI. Його ідея з тригерами — це, по суті, спроба застосувати принципи смарт-контрактів до регулювання ШІ. Однак, як і у випадку з DeFi, ключовим питанням залишається не технічна реалізація, а здатність ворогуючих сторін сісти за стіл переговорів.