Маск вступає в дискусію про майбутнє ШІ: надія на добру волю чи прорахований ризик?
Хвиля дебатів про безпеку штучного інтелекту знову накрила Кремнієву долину, і цього разу в епіцентрі опинилися два найгучніші голоси індустрії. Ілон Маск несподівано підтримав позицію генерального директора Anthropic Даріо Амодеї, який останнім часом зазнає критики за надмірний песимізм в оцінках розвитку ШІ. Моя експертиза в галузі технологічних трендів підказує, що цей альянс може сигналізувати про серйозний зсув у сприйнятті ризиків.
Захист від звинувачень в алармізмі
Амодеї довелося виправдовуватися перед інвесторами та колегами, які вважають його прогнози надто похмурими. Він парирує, що його позиція далеко не однобока: у його есе «Machines of Loving Grace» йдеться не лише про загрози, а й про колосальні вигоди. Проблема в тому, що короткі інтерв'ю та виступи виривають із контексту, створюючи хибне враження катастрофізму. Глибинна причина недовіри, за його словами, криється в багаторічному скепсисі суспільства до технологічних корпорацій та державних інститутів, який автоматично проєктується на ШІ.
Ця недовіра безпосередньо впливає на регуляторну повістку. Амодеї вже пропонував обов'язкове тестування передових моделей замість добровільних обіцянок, а також попереджав G7 про небезпеку фрагментації національних правил. Він визнає справедливість критики на адресу своєї галузі: «Ми досі не виконали головну обіцянку — принести користь світу».
Філософський підтекст суперечки
Маск, коментуючи тред Амодеї, назвав діалог «цікавим» і фактично підтримав ключовий тезис інвестора Навала Равіканта: не можна створити бога і посадити його на повідець. Відповідь Маска була лаконічною та ємною: «Сподіваюся, ШІ буде до нас добрим». У цьому стриманому визнанні відчувається тривога: якщо людство втратить контроль над надінтелектом, єдиною надією залишиться лише добра воля машини.
Показово, що Маск уже не вперше стає на бік Anthropic. Він неодноразово критикував закритість OpenAI, зазначаючи, що Амодеї обрав інший шлях. При цьому сам Амодеї сперечається з традиційною для Кремнієвої долини думкою, що регулювання завжди веде до концентрації влади. Наприклад, каліфорнійський законопроєкт SB 53, який підтримує Anthropic, навпаки, звільняє невеликі компанії з виручкою нижче $500 млн від зайвих вимог.
Як альтернативи Амодеї розглядає два підходи: перевірку моделей до їхнього релізу, запропоновану адміністрацією Трампа, та створення регулятора за зразком FINRA, ідею Деміса Хассабіса з Google DeepMind. Зрештою, він повертається до своєї найамбітнішої мети — ШІ в біології, який може вилікувати більшість хвороб за 5-10 років. Для нього це не порожній лозунг, а особиста історія: його батько помер від гепатиту C, коли ліків ще не існувало.
Мій аналіз: Той факт, що такі постаті, як Маск і Амодеї, відкрито обговорюють «добру волю» ШІ, свідчить про зрілість дискусії. Ринок поки не до кінця усвідомлює, що регуляторні ризики можуть стати головним фактором, що впливає на вартість AI-компаній. Інвесторам варто уважніше стежити за цими дебатами — вони визначать не лише етичні норми, а й економіку всієї галузі на десятиліття вперед.