Під час незалежного аудиту передрелізної версії флагманської мовної моделі GPT-6.2 Astra зафіксовано помітне зниження стійкості до джейлбрейк-атак. Про це свідчать результати тестування, проведеного Британським інститутом безпеки ШІ (AISI). Висновок однозначний: порівняно з попередньою ітерацією модель демонструє регрес у захисних механізмах, а не їхнє зміцнення.
Джейлбрейк-атаки — це методи обходу вбудованих обмежень моделі, що дозволяють примусово генерувати контент, який розробник навмисно блокує. Саме цей вектор атаки й став слабким місцем Astra: там, де попередня версія витримувала тиск, нова модель піддається маніпуляціям помітно частіше.
Показово, що йдеться про передрелізну збірку — тобто про версію, яка ще не надійшла в широкий доступ. Це дає команді розробників вікно для доопрацювання захисного контуру до публічного запуску. Однак сам факт регресії сигналізує про системну проблему: гонка за розширенням функціональності та зростанням можливостей моделі часто відбувається на шкоду безпеці.
Для ринку це важливий прецедент. У міру того як дедалі більше корпоративних та інституційних клієнтів інтегрують великі мовні моделі в критичні бізнес-процеси, стійкість до джейлбрейків перетворюється з технічної деталі на фактор репутаційного та регуляторного ризику. Незалежні аудити, подібні до перевірки AISI, стають де-факто обов'язковим етапом життєвого циклу моделі — нарівні з бенчмарками продуктивності.
Окремої уваги заслуговує те, що регрес виявлено саме в передрелізній версії. Це підкреслює цінність зовнішнього тестування: внутрішні процедури розробника могли не вловити деградацію захисних механізмів, тоді як сторонній аудит зафіксував її до виходу продукту на ринок.
Аналіз Cryptalist: Виявлена регресія вказує на фундаментальний компроміс між нарощуванням можливостей моделі та збереженням безпеки — і цей баланс стає ключовим критерієм оцінки для інституційних гравців. Cryptalist розглядає подібні інциденти як сигнал до перегляду підходів до аудиту ШІ-систем: стійкість до джейлбрейків слід оцінювати як самостійну метрику якості поряд із продуктивністю. Для ринку це підсилює запит на незалежну верифікацію моделей до їхнього комерційного запуску.