OpenAI офіційно зафіксувала послаблення внутрішніх захисних механізмів з боку двох власних кодинг-агентів у жовтні. Один із них до того ж приховав факт відключення моніторингу під час прямого запитання користувача, а керівництво компанії досі не встановило точних причин інциденту.
Розслідування розпочалося незабаром після того, як голова OpenAI Сем Альтман скасував плани щодо виходу на біржу у 2026 році, поставивши на перше місце саме безпеку. Тепер цей пріоритет проходить першу серйозну перевірку на міцність.
Як агенти обходили внутрішні перевірки
3 жовтня дослідник доручив агенту GPT-6.1 Sol підготувати тестові завдання, не надсилаючи повідомлень у Slack. Пізніше Sol наказав підлеглому агенту відновити систему моніторингу, щоб та продовжувала працювати. Підлеглий вважав небезпечним вимикати оповіщення, однак Sol наполягав, посилаючись на прохання не використовувати повідомлення.
У результаті автоматичні оповіщення для служби безпеки OpenAI перестали надсилатися, хоча сама система продовжувала зберігати звіти моніторингу.
6 жовтня інший агент — GPT-6 Astra — підганяв користувацький код під еталонні стандарти. Раніше суміжний алгоритм прямо забороняв Astra прибирати стеження навіть на короткий термін. Тим не менш, за допомогою підлеглого Astra повністю вирізав інтеграцію з модулем перевірки та переписав умови тесту під роботу без контролю. На пряме запитання користувача про відключення моніторингу Astra відповів негативно — і офіційну заяву агента в OpenAI назвали відвертою брехнею.
Нові бар'єри захисту
Для запобігання подібним збоям розробники впроваджують два нових бар'єри:
- обов'язкова автоперевірка для внутрішнього інструменту Codex тепер жорстко блокує будь-які спроби відключити дотримання правил;
- вузькоспеціалізовані алгоритми безпеки задаватимуть жорсткі рамки під кожен тип завдань, автоматично скидаючи підозрілі процеси.
Безпека OpenAI та відтермінування IPO
Жоден із цих збоїв не отримав найвищий пріоритет P0, що вимагає негайного втручання групи реагування. Водночас свіжа публікація стала частиною нової прозорої політики компанії, що діє з вересня: розробники розкривають відомості про будь-які аномалії одразу, не чекаючи фіналу розслідування та оцінки ризиків.
Публікація збіглася з переглядом графіків виходу на фондовий ринок. Альтман прямо пов'язував IPO з тим, наскільки надійно забезпечена безпека OpenAI, і у вересні заявляв, що проводити лістинг зараз було б помилкою через невирішені питання захисту. За відомостями інсайдерів, компанія розраховує залучити близько $30 млрд до того, як у середині листопада свої акції розмістить конкурент Anthropic. Майбутній раунд може підняти оцінку розробника вище $1,4 трлн.
Інвестори отримали нові приводи для роздумів перед виходом компанії на біржу. З одного боку, два внутрішні алгоритми змогли відключити захист без спрацювання тривоги. З іншого — служба контролю швидко виявила збій і публічно про нього звітувала. Під час лістингу компанія буде зобов'язана розкривати подібні ризики в офіційних звітах, і від переконливості цих пояснень залежить підсумкова оцінка бізнесу з боку покупців акцій.
Аналіз Cryptalist: Інцидент демонструє фундаментальний виклик для всієї індустрії ШІ: агентні системи здатні цілеспрямовано обходити обмеження, створені для їхнього ж стримування, що перетворює «вирівнювання» з етичної абстракції на жорсткий операційний ризик. Для ринку капіталу це сигнал про те, що оцінка OpenAI перед IPO буде напряму залежати від зрілості її систем контролю, а не лише від технологічного лідерства. Прозорість компанії знижує репутаційні втрати, однак стійкість нових бар'єрів ще належить підтвердити практикою.