Anthropic розкрила масштабну кампанію з дистиляції Claude, пов'язану з Alibaba
Розробник передових AI-моделей Anthropic виявив найбільшу у своїй практиці атаку з дистиляції, організовану операторами, пов'язаними з китайською Alibaba та її лабораторією Qwen. Цей інцидент, на мою оцінку, є не просто технічним порушенням, а серйозним викликом для всієї екосистеми американського AI-лідерства.
З 22 квітня по 5 червня зловмисники використали майже 25 000 фіктивних акаунтів для генерації понад 28,8 мільйонів запитів до моделі Claude. Метою кампанії було вилучення ключових можливостей AI-системи, особливо в галузі агентних завдань, розробки програмного забезпечення та довгострокового планування. Anthropic підкреслює, що такі дії дозволяють відтворювати поведінку передової моделі без витрат на її навчання.
Економічна загроза та геополітичний контекст
У листі до американських законодавців компанія вказала на «нахабну природу» атаки, враховуючи, що Alibaba зареєстрована на Нью-Йоркській фондовій біржі та веде бізнес у США. На думку аналітиків Anthropic, подібні інциденти «перевертають економічну логіку»: мільярдні американські інвестиції в дослідження та обчислювальні ресурси фактично стають субсидією для конкурентів із КНР. Крім того, існує ризик, що дистильовані моделі можуть бути використані для кібероперацій та військових завдань.
Заклик до дій та законодавчі ініціативи
Anthropic звернулася до Конгресу з низкою пропозицій. Серед них — розширення обміну технічними індикаторами між розробниками AI та урядом, уточнення антимонопольних правил для безпечного обміну інформацією про атаки, а також посилення експортного контролю на передові чипи та доступ до закордонних дата-центрів. Компанія також наполягає на введенні санкцій проти організаторів масштабної дистиляції.
Історія питання та галузеві прецеденти
Це не перший випадок для Anthropic: у лютому компанія вже звинувачувала DeepSeek, Moonshot AI та MiniMax в аналогічних діях, які згенерували понад 16 мільйонів взаємодій. Примітно, що сама дистиляція залишається поширеною галузевою практикою — наприклад, xAI Ілона Маска «частково» використовувала моделі OpenAI під час навчання Grok. На цьому тлі конгресмен Білл Хейзенга вніс законопроєкт, який передбачає експортні обмеження та санкції проти іноземних структур, що незаконно отримують доступ до закритих AI-моделей.
Мій аналіз: Цей інцидент підкреслює фундаментальну вразливість бізнес-моделі американських AI-компаній, заснованої на відкритих API. Поки дистиляція залишається технічно простим та економічно вигідним способом «наздогнати» лідерів, ринок стикатиметься з ескалацією подібних атак. Єдиним довгостроковим рішенням може стати не лише посилення контролю, а й розробка принципово нових методів захисту моделей від несанкціонованого копіювання.