Генеральний секретар ООН виступив із різким попередженням: штучний інтелект вийшов з-під контролю, а наявні інститути управління до цього не готові. Він закликав до негайного запровадження глобальних правил для передових систем ШІ, особливо наголосивши на необхідності захисту дітей та заборони автономних летальних озброєнь.
«ШІ розвивається з неконтрольованою швидкістю», — заявив голова ООН, назвавши те, що відбувається, «експериментом над суспільствами без плану та без згоди». За його оцінкою, якщо інтернету знадобилося 15 років, щоб залучити мільярд користувачів, то ШІ впорався з цим за два роки. ChatGPT, своєю чергою, набрав 100 мільйонів користувачів лише за два місяці — безпрецедентний темп.
Ключова проблема, на думку експерта, полягає в тому, що сучасні системи вже не просто виконують команди — вони пишуть код, приймають рішення та діють у мережі з мінімальним людським контролем. «Наші інститути створювалися для управління машинами, які виконують команди. Вони не готові до машин, які приймають рішення», — підкреслив він.
«Вайб-кодинг» як загроза майбутньому
Особливий акцент було зроблено на метафорі «вайб-кодингу» — пасивного підходу, коли система працює без розуміння механізмів та наслідків. «Ми не можемо вайб-кодити істину. Ми не можемо вайб-кодити майбутнє людства», — заявив Гутерріш, пропонуючи країнам вибір між усвідомленим управлінням та пасивним дрейфом.
Захист дітей: три принципи
Одним із головних пріоритетів названо захист дітей від нерегульованого ШІ. Запропоновано три ключові принципи:
- Заборона на запуск систем ШІ, доступних дітям, без спеціального тестування та незалежного нагляду.
- Нульова толерантність до генерації сексуалізованих зображень неповнолітніх — з обов'язковим виявленням, видаленням та повідомленням про такі матеріали.
- Неприпустимість залишення дитини в кризі наодинці з чат-ботом: при виявленні ознак тяжкого стану система має зупинитися та підключити реальну людську підтримку.
Заборона «роботів-убивць»
Військове застосування ШІ також опинилося в центрі уваги. Гутерріш закликав заборонити міжнародним правом летальні автономні системи озброєнь — машини, здатні обирати та уражати цілі без людського контролю. «Назвемо їх тим, чим вони є: роботи-вбивці», — заявив він, назвавши такі системи «морально огидними» та «політично неприйнятними».
Цифровий розрив та енергоспоживання
Окремо було порушено проблему цифрової нерівності. Голова ООН анонсував рекомендації щодо створення глобального фонду для ШІ, який має допомогти країнам, що розвиваються, отримати доступ до високопродуктивних обчислень, відкритих даних та моделей. Він також зазначив, що дата-центри вже споживають більше електроенергії, ніж більшість країн, а до 2030 року можуть перевершити за енергоспоживанням усі держави, крім п'яти.
Мій коментар: Заклики ООН — це сигнал, який не можна ігнорувати, але реальність така, що глобальне регулювання ШІ стикається з гігантськими політичними та економічними перешкодами. Поки провідні держави сперечаються про стандарти, технологія продовжує прискорюватися, і кожен день зволікання збільшує ризики, особливо для найуразливіших верств населення. Ринок криптовалют та блокчейну, своєю чергою, може стати полігоном для тестування децентралізованих моделей управління ШІ, але це потребуватиме зовсім іншого рівня координації.