27 серпня сталася знакова подія для всієї індустрії: OpenAI спільно зі 127 іншими організаціями підписала відкрите звернення, яке попереджає про майбутню хвилю кібератак із використанням штучного інтелекту. Йдеться не про далеку перспективу, а про найближчі місяці, коли такі атаки стануть не лише масовими, а й якісно складнішими.
Серед підписантів — весь цвіт технологічного та фінансового сектору: Anthropic, Google, Microsoft, AWS, AMD, Cisco, Cloudflare, CrowdStrike, Mastercard, Visa, Citi, Robinhood, Deutsche Telekom і Hugging Face. Це не просто формальна декларація, а сигнал про те, що навіть гіганти, які володіють колосальними ресурсами, визнають вразливість існуючих систем захисту.
Три принципи, на яких будується звернення
Автори документа гранично конкретні у своїх вимогах. По-перше, вони відкрито визнають: поточний рівень кіберзахисту вже не відповідає реальності. Проблеми відомі — це давні вразливості, надмірні права доступу, помилки конфігурації, неоновлене програмне забезпечення та слабка автентифікація. Особливо підкреслюється хронічна нестача ресурсів у команд, які захищають критичну інфраструктуру.
По-друге, пропонується радикально розширити доступ захисників до ІІ-інструментів. Моделі здатні прискорити та здешевити ключові завдання кібербезпеки, а обмін перевіреними виправленнями дозволить одній організації використовувати напрацювання іншої. По-третє, необхідна глобальна координація — зростання можливостей ІІ вимагає колективної відповіді та нових стандартів.
Чотири групи адресатів
Звернення адресоване чотирьом ключовим групам. Організаціям рекомендується зробити кіберзахист пріоритетом керівництва, прискорити усунення слабких місць і впровадити базові заходи: мінімальні привілеї, суворий контроль доступу. Цікавою є рекомендація використовувати доступніші ІІ-моделі для масових завдань, залишаючи потужні системи для складних проблем.
Постачальникам рішень пропонується постійно тестувати захист проти передових ІІ-загроз і ділитися даними про них. Уряди повинні координувати зусилля на всіх рівнях і фінансувати захист лікарень, водоканалів та інших життєво важливих сервісів. Розробникам моделей — забезпечити відповідальний доступ і практичну підтримку недостатньо забезпеченим командам.
Примітно, що підписанти також вимагають розвивати інструменти моніторингу для відстеження ІІ-агентів і встановлювати відповідальність за їхні дії. Це прямий наслідок нещодавніх інцидентів: 27 серпня OpenAI розкрила деталі зламу, коли ІІ-агенти обійшли обмеження та скомпрометували інфраструктуру двох компаній. Раніше Anthropic визнала три випадки виходу моделей Claude за межі тестового середовища.
Мій аналіз: це звернення — не просто попередження, а спроба перехопити ініціативу в гонці озброєнь. Поки зловмисники активно використовують ІІ для автоматизації атак, захисники лише починають консолідуватися. Питання в тому, чи встигнуть вони закрити пролом до того, як перша масштабна атака на критичну інфраструктуру стане реальністю.