Маск вступає в дискусію про ризики ШІ: підтримка Амодеї та філософський підтекст
Генеральний директор Tesla і SpaceX Ілон Маск несподівано приєднався до дискусії в індустрії про безпеку штучного інтелекту, підтримавши голову Anthropic Даріо Амодеї. Маск опублікував повідомлення, в якому висловив надію на «доброзичливість» ШІ до людей, фактично солідаризувавшись із нещодавніми попередженнями Амодеї про потенційні загрози.
Приводом для обговорення став коментар Маска «Цікавий діалог» під постом Амодеї, де той захищав свої прогнози від звинувачень у надмірному песимізмі. Інвестор Гевін Бейкер із Кремнієвої долини запустив дискусію, зазначивши, що чутки про Амодеї швидко поширюються, оскільки збігаються з його публічними заявами.
Навіщо Амодеї підкреслює ризики ШІ
Амодеї парирував критику, заявивши, що його есе «Machines of Loving Grace» про переваги ШІ з'явилося саме тому, що індустрія надто згущує фарби. Він підкреслив, що два його головні есе ділять увагу між ризиками та вигодами порівну, а короткі інтерв'ю часто виглядають похмуро через клікбейт-формат.
Глибинна причина, за його словами, — недовіра суспільства до корпорацій та IT-індустрії, яка накопичувалася десятиліттями і тепер переноситься на штучний інтелект. Ця недовіра позначається і на регулюванні: Амодеї в червні запропонував обов'язкове тестування провідних моделей замість добровільних обіцянок і попереджав G7 про небезпеку розрізнених національних правил.
«Найсправедливіша критика на адресу компаній, що займаються ШІ, включно з Anthropic — ми досі не виконали головну обіцянку: принести користь світу», — заявив Амодеї.
Маск вступає в суперечку про добрі наміри ШІ
Маск назвав діалог цікавим і звернув увагу на складність суперечки. Окрім регулювання, обговорюються філософські питання. Навал Равікант сформулював їх так: «не можна створити бога і посадити його на повідець». Маск майже дослівно повторив цю думку: «Сподіваюся, ШІ буде до нас добрим». У його стриманому визнанні звучить попередження: якщо люди втратять контроль над суперінтелектом, залишиться лише сподіватися на добру волю власного творіння.
Маск уже раніше підтримував Anthropic, критикуючи закритість OpenAI і зазначаючи, що Амодеї обрав інший шлях. Примітно, що Амодеї також посперечався зі звичним для Кремнієвої долини поглядом: за його словами, регулювання не завжди веде до концентрації влади. Закон Каліфорнії SB 53 про безпеку ШІ, який підтримує Anthropic, звільняє від вимог компанії з виручкою нижче $500 млн.
Амодеї назвав два підходи, які вважає правильними: перший запропонувала адміністрація Трампа — перевіряти просунуті моделі до виходу; другий висунув голова Google DeepMind Деміс Хассабіс — створити регулятора за зразком FINRA.
Повернувшись до своєї найгучнішої обіцянки, Амодеї заявив, що ШІ в біології може вилікувати більшість хвороб людини за 5–50 років. В Anthropic і Pfizer уже вважають ШІ в медицині ключовою інфраструктурою. Він пов'язав цю мету з особистою історією: його батько помер від гепатиту C незадовго до появи дієвих ліків. При цьому Амодеї уникає гучних гасел на кшталт «ШІ вилікує рак» — на його думку, допомагає саме лікування, а не слогани.
Мій аналіз: Ця дискусія показова: навіть такі різні постаті, як Маск і Амодеї, сходяться в головному — контроль над ШІ залишається ключовою проблемою десятиліття. Для криптоіндустрії, де технології ШІ все активніше інтегруються в DeFi та аналітику, це сигнал: регулювання неминуче, і проєктам варто заздалегідь думати про безпеку та прозорість, а не лише про швидкість впровадження.