Генеральний секретар ООН Антоніу Гутерріш виступив із жорсткою заявою на Глобальному діалозі з управління ШІ. Його посил гранично зрозумілий: поточна швидкість розвитку штучного інтелекту перетворилася на неконтрольований «експеримент над суспільствами», який проводиться без плану та без згоди людства. Гутерріш закликав до негайного введення спільних правил для передових ШІ-систем, захисту дітей від ризиків чат-ботів та заборони летальних автономних озброєнь.
Ключовий тезис генсека — інститути, створені для управління машинами, які виконують команди, абсолютно не готові до машин, які приймають рішення. Він підкреслив, що інтернету знадобилося 15 років, щоб досягти мільярда користувачів, тоді як ШІ впорався з цим завданням лише за два роки. На підтвердження цьому, в попередній доповіді наукової панелі ООН зазначено, що ChatGPT набрав 100 млн користувачів за два місяці. Сучасні системи, за його словами, вже не чекають команд — вони пишуть код, діють онлайн і приймають рішення при все меншому людському контролі.
«Вайб-кодинг» і майбутнє людства
Гутерріш ввів у дискурс термін «вайб-кодинг» як метафору пасивного управління: дозволити системі виконувати роботу, не вникаючи в механізм і наслідки. «Ми не можемо вайб-кодити істину. Ми не можемо вайб-кодити майбутнє людства», — заявив він, попередивши, що у країн є вибір не між вірою в ШІ та страхом перед ним, а між усвідомленим управлінням і пасивним дрейфом.
Захист дітей: три принципи
Одним із головних пріоритетів Гутерріш назвав захист дітей. Він закликав компанії прийняти зобов'язання щодо безпеки ШІ-систем, доступних неповнолітнім (AI Child Safety Pledge). Технологія, за його словами, вже проникла в навчання, дружбу та особисті питання дітей, але наслідки її впровадження не були перевірені суспільством. «Жодна дитина не повинна бути піддослідним кроликом для нерегульованого ШІ», — підкреслив він. Пропозиція включає три принципи: не запускати системи без спеціального тестування, нульова толерантність до генерації сексуалізованих зображень неповнолітніх та обов'язкове підключення реальної людської підтримки, якщо система помічає ознаки кризи у дитини.
«Роботи-вбивці»: морально огидні та політично неприйнятні
Окремий блок виступу стосувався військового застосування ШІ. Гутерріш закликав заборонити міжнародним правом летальні автономні системи озброєнь — машини, які можуть обирати та вражати ціль без людського контролю. «Назвемо їх тим, чим вони є: роботи-вбивці», — заявив він, додавши, що такі системи «морально огидні» та «політично неприйнятні». Він попередив, що держави не повинні чекати трагедії, щоб діяти, особливо враховуючи, що одні й ті самі моделі та чипи вже використовуються на полі бою.
Країни, що розвиваються, та прозорість
Гутерріш також заявив, що цифровий розрив не повинен перетворитися на розрив у сфері ШІ, а потім — на розрив розвитку, безпеки та суверенітету. Він анонсував рекомендації щодо створення глобального фонду для ШІ, який допоможе країнам, що розвиваються, отримати доступ до обчислювальних ресурсів, відкритих даних та моделей. Ще одним важливим напрямком названа прозорість: дата-центри вже споживають більше електроенергії, ніж більшість країн, а до 2030 року можуть перевершити за енергоспоживанням усі держави, крім п'яти. «Якщо ШІ має бути потужним, ним потрібно керувати. Якщо ШІ має викликати довіру, ті, хто його створює, повинні нести відповідальність», — підсумував генсек.
Моя аналітика: Заява Гутерріша — це не просто дипломатична риторика, а чіткий сигнал ринку. Очікую, що в найближчі 12-18 місяців ми побачимо посилення регулювання на національному рівні, особливо у сфері захисту дітей та автономних озброєнь. Інвесторам та розробникам варто готуватися до нових комплаєнс-вимог, які можуть суттєво вплинути на бізнес-моделі ШІ-компаній.