Надія на добрий ШІ: Маск приєднався до дискусії Амодеї про ризики та регулювання
У центрі уваги технологічної спільноти знову опинилося питання безпеки штучного інтелекту. Ілон Маск несподівано підтримав генерального директора Anthropic Даріо Амодеї в його нещодавній публічній заяві про ризики, пов'язані з розвитком ШІ. Маск опублікував відповідь практично миттєво після того, як Амодеї залишив коментар «Цікавий діалог» під постом, захищаючи свої прогнози від звинувачень у надмірному песимізмі.
Чому Амодеї наполягає на ризиках ШІ?
Дискусію спровокував інвестор Гевін Бейкер, який зазначив, що чутки про Амодеї швидко поширюються, оскільки його публічні висловлювання рідко розходяться з реальною позицією. Сам Амодеї відкинув звинувачення в тому, що говорить лише про небезпеки. За його словами, два головні есе компанії ділять увагу між ризиками та вигодами порівну. Короткі інтерв'ю, як він пояснив, часто виглядають похмуро, тому що такі формати збирають більше кліків, але не відображають повну картину.
Амодеї також назвав глибоку причину недовіри: звичайні люди не довіряють корпораціям, держструктурам та IT-індустрії. Ця недовіра автоматично переноситься і на штучний інтелект, накопичуючись десятиліттями. Саме тому в червні він запропонував обов'язкове тестування провідних моделей замість добровільних обіцянок, а через кілька днів звернувся до G7 із попередженням про небезпеку розрізнених національних правил.
«Найсправедливіша критика на адресу компаній, що займаються ШІ, включно з Anthropic — ми досі не виконали головну обіцянку: принести користь світу», — заявив Амодеї.
Маск і філософія «доброго» ШІ
Маск назвав діалог цікавим і підкреслив складність суперечки. Окрім регулювання, обговорення торкнулося філософських питань. Навал Равікант сформулював їх так: не можна створити бога і посадити його на повідець. Маск майже дослівно повторив цю думку: «Сподіваюся, ШІ буде до нас добрим». У його стриманому визнанні звучить попередження: якщо люди втратять контроль над суперінтелектом, суспільству залишиться лише сподіватися на добру волю власного творіння.
Раніше Маск уже критикував закритість OpenAI і зазначав, що Амодеї обрав інший шлях. Показово, що глава Anthropic також посперечався зі звичним для Кремнієвої долини поглядом, вказавши, що регулювання не завжди веде до концентрації влади. Закон Каліфорнії SB 53 про безпеку ШІ, який підтримує Anthropic, звільняє від вимог компанії з виручкою нижче $500 млн.
Амодеї назвав два підходи, які вважає правильними. Перший запропонувала адміністрація Трампа — перевіряти просунуті моделі до виходу. Другий висунув глава Google DeepMind Деміс Хассабіс — створити регулятора за зразком FINRA. Наприкінці Амодеї повернувся до своєї найгучнішої обіцянки: ШІ в біології може вилікувати більшість хвороб людини за п'ять-десять років. В Anthropic і Pfizer уже вважають ШІ ключовою інфраструктурою в медицині, а сам глава пов'язав цю мету з особистою історією — його батько помер від гепатиту C незадовго до появи дієвих ліків.
Мій коментар: Показово, що дискусія про безпеку ШІ все частіше переходить із площини технологій у площину довіри та філософії. Для ринку це важливий сигнал: регуляторна невизначеність залишається головним фактором ризику для проєктів, пов'язаних із ШІ, і інвесторам варто враховувати не лише технічні метрики, а й політичний контекст навколо найбільших гравців.