Штучний інтелект здатен перевершити сукупний інтелект людства вже через п'ять років, а повна втрата контролю над цією технологією з боку людей — лише питання десятиліття. Такий прогноз озвучив засновник xAI Ілон Маск у рамках нещодавнього інтерв'ю.
Маск підкреслює, що ШІ в перспективі зможе виконувати практично будь-які інтелектуальні завдання краще за людину. «Не залишиться нічого, що ШІ не зможе робити краще за людей, окрім, можливо, того, щоб бути людиною», — заявив він. Найбільш імовірним сценарієм розвитку подій мільярдер називає «епоху достатку», яка настане до 2036 року, коли завдяки ШІ та роботам люди отримають доступ до практично необмежених товарів і послуг.
При цьому Маск визнає, що ризик катастрофічного результату не дорівнює нулю. Раніше він оцінював імовірність загибелі людства через ШІ у 10–20%. Однак замість спроб сповільнити розробку, він пропонує провідним ШІ-компаніям впровадити практику взаємних перевірок моделей до їхнього публічного релізу. За його задумом, конкуруючі лабораторії повинні виявляти небезпечні здібності моделей, і лише у разі ігнорування серйозних ризиків до справи мають підключатися регулятори.
Критика трансформації OpenAI
У тому ж інтерв'ю Маск піддав різкій критиці еволюцію OpenAI з некомерційної організації в комерційну структуру. За його словами, проєкт спочатку створювався як відкрита ШІ-компанія «для всього світу», але в результаті перетворився на закритий бізнес. Стосовно голови Anthropic Даріо Амодеї Маск висловився м'якше, назвавши його «принциповою людиною», але підкресливши необхідність співпраці з питань безпеки навіть між конкурентами.
Мій аналіз: Прогнози Маска, незважаючи на їхню тривожність, відображають реальну дилему, що стоїть перед індустрією. Ідея «епохи достатку» звучить привабливо, але вона нерозривно пов'язана з ризиком, який сам Маск оцінює як «не нульовий». Запропонований ним механізм взаємних перевірок — це, по суті, спроба впровадити ринкові механізми контролю замість державного регулювання. Однак ефективність такої моделі залишається під питанням, особливо враховуючи, що конкуренція у сфері ШІ посилюється з кожним днем. Ринок криптовалют, який також будується на децентралізації, може багато чому навчитися з цієї дискусії: баланс між інноваціями та безпекою — це завжди компроміс, і його ціна може виявитися надмірно високою.