Віталік Бутерін проти «світового панування» ШІ: критика гігантів і пошук компромісу
Співзасновник Ethereum Віталік Бутерін знову опинився в центрі дискусії про майбутнє штучного інтелекту. Цього разу його критика спрямована проти риторики найбільших ШІ-компаній, чиї амбіції, на думку розробника, межують із небезпечною наївністю та прагненням до концентрації влади.
Два табори наївності
Приводом для заяви Бутеріна послугував сценарій «ШІ 2040», який передбачає появу загального штучного інтелекту (AGI) до 2040 року практично за будь-якого розвитку подій. Критики цього прогнозу, своєю чергою, називають його наївним, вважаючи, що людство здатне скоординуватися та зупинити цей процес.
Бутерін, однак, бачить проблему глибше. На його думку, обидві сторони «замкнені у взаємно несумісних картинах світу». Критики сценарію «ШІ 2040» не помічають власної наївності, вважаючи, що перехід до суперінтелекту відбудеться гладко та під контролем. Прихильники ж прискореного розвитку, по суті, пропонують світ, де «наші хлопці отримують контрольне світове панування», що, як зазначає Бутерін, має викликати політичну тривогу.
Ризики концентрації влади
Особливе занепокоєння у творця Ethereum викликає риторика «відкритий код — це погано, а хороший результат — це коли ми контролюємо світ». Він підкреслює, що сам по собі суперінтелект становить колосальний ризик концентрації влади. Саме тому Бутерін послідовно просуває платформу d/acc, яка включає розвиток формальної верифікації, криптографії, захищеного відкритого обладнання та стійкості до пандемій.
Цінність цих напрямків, за його словами, у тому, що вони корисні в будь-якому сценарії майбутнього — як при швидкому, так і при повільному розвитку ШІ.
Пошук компромісу: тригери та угоди
Бутерін пропонує прагматичний підхід: заздалегідь узгодити набір тригерів, що сигналізують про серйозні проблеми. Як приклади він називає суперпандемії, рівень безробіття вище 25% або появу автономної зброї. Якщо достатня кількість таких тригерів спрацює до обумовленого терміну, сторони зобов'язуються серйозно розглянути сповільнення або паузу в розвитку ШІ.
«Виграшною буде домовленість, яку обидві сторони приймуть, виходячи зі своїх нинішніх переконань, хай і з різних причин», — зазначає Бутерін. Критики прискорення приймуть це, очікуючи, що тригери не спрацюють, а стурбовані — навпаки. Він також звернувся до лідерів tech-гігантів, пропонуючи їм перебудувати соціальні платформи під пошук подібних взаємовигідних угод, хоча й визнає наївність цієї ідеї.
Думка експерта: Позиція Бутеріна — це рідкісний приклад здорового глузду в істеричній гонці ШІ. Його пропозиція про «тригери» — не технічне рішення, а політичний інструмент. Однак, враховуючи поточну динаміку ринку та амбіції корпорацій, навряд чи хтось із гігантів добровільно погодиться на «червону кнопку». Криптоспільноті варто придивитися до цієї дискусії: децентралізація та формальна верифікація, які просуває Бутерін, можуть стати єдиним реальним противагою централізації ШІ-потужностей.