Генеральний секретар ООН Антоніу Гутерріш виступив із різкою заявою на Глобальному діалозі з управління ШІ. Його посил однозначний: розвиток штучного інтелекту виходить з-під контролю, і світова спільнота зобов'язана негайно ухвалити спільні правила. Йдеться не просто про технологічний прогрес, а про фундаментальні ризики для людства.
Гутерріш підкреслив, що ШІ поширюється з безпрецедентною швидкістю. Якщо інтернету знадобилося 15 років, щоб досягти мільярда користувачів, то ChatGPT підкорив 100 мільйонів лише за два місяці. Сучасні системи вже не чекають команд — вони пишуть код, діють онлайн і ухвалюють рішення за мінімальної участі людини. «Наші інститути створювалися для машин, які виконують команди, — заявив він. — Вони не готові до машин, які ухвалюють рішення».
«Вайб-кодинг» і майбутнє людства
Особливу увагу генсек приділив концепції «вайб-кодингу» — пасивного підходу, за якого ми дозволяємо ШІ працювати без глибокого розуміння механізмів і наслідків. «Ми не можемо вайб-кодити істину, — попередив Гутерріш. — Ми не можемо вайб-кодити майбутнє людства». На його думку, перед нами стоїть вибір не між страхом і вірою в ШІ, а між усвідомленим управлінням і пасивним дрейфом.
Захист дітей: три принципи
Одним із ключових пріоритетів Гутерріш назвав безпеку неповнолітніх. ШІ вже проник у навчання та особисте спілкування дітей, але суспільство не перевірило його наслідків. «Жодна дитина не має бути піддослідним кроликом для нерегульованого ШІ», — підкреслив він. ООН запропонувала три принципи:
1. Не запускати системи для дітей без спеціального тестування та незалежного нагляду.
2. Нульова толерантність до генерації сексуалізованих зображень неповнолітніх.
3. У кризових ситуаціях чат-боти мають зупинятися та підключати реальну людську підтримку.
«Роботи-вбивці» та глобальний фонд
Гутерріш також закликав міжнародне право заборонити летальні автономні системи озброєнь — машини, здатні обирати та уражати цілі без людського контролю. «Назвемо їх тим, чим вони є: роботи-вбивці, — заявив він. — Вони морально огидні та політично неприйнятні». Крім того, він анонсував створення глобального фонду для ШІ, який допоможе країнам, що розвиваються, отримати доступ до обчислювальних ресурсів і знань. За його словами, дата-центри вже споживають більше енергії, ніж більшість країн, а до 2030 року можуть випередити всі держави, крім п'яти.
Мій аналіз: Заява Гутерріша — це чіткий сигнал про те, що регулювання ШІ переходить із площини обговорень у практичну площину. Особливо важлива його увага до концентрації даних і обчислювальних потужностей у руках вузького кола корпорацій. Якщо ця тенденція збережеться, ми ризикуємо отримати не просто технологічну нерівність, а нову форму цифрового колоніалізму. Питання не в тому, чи потрібно регулювати ШІ, а в тому, чи зможемо ми зробити це достатньо швидко, щоб уникнути незворотних наслідків.