Новини криптоміра

Американська компанія Anthropic, розробник передової мовної моделі Claude, зафіксувала найбільшу у своїй практиці атаку з дистиляції ШІ-моделей. У листі, направленому до банківського комітету Сенату США, компанія звинувачує операторів, пов'язаних із китайською Alibaba та її ШІ-лабораторією Qwen, у проведенні масштабної кампанії з незаконного вилучення можливостей Claude.

Згідно з даними, зібраними моєю командою, з 22 квітня по 5 червня зловмисники створили майже 25 000 фіктивних акаунтів. Через них було згенеровано понад 28,8 млн запитів до моделі. «Окрім свого масштабу, ця кампанія була вражаючою через її зухвалу природу. Alibaba зареєстрована на Нью-Йоркській фондовій біржі, підтримує бізнес-операції в Сполучених Штатах і підзвітна американським інвесторам та регуляторним органам», — наголошується в документі.

Метод дистиляції, використаний у цій атаці, сам по собі не є забороненим: його застосовують легітимно для створення дешевших або компактніших версій моделей. Однак проблема виникає, коли конкуренти, обходячи обмеження сервісу через підставні акаунти, використовують відповіді моделі для навчання своїх систем. У цьому випадку атака була націлена на ключові здібності Claude в агентних завданнях, розробці програмного забезпечення та довгостроковому плануванні.

Anthropic підкреслює, що такі дії дозволяють китайським лабораторіям відтворювати поведінку передових моделей без витрат на їхнє навчання. «Коли лабораторії КНР дистилюють ці можливості з американських моделей, вони отримують віддачу від американських інвестицій, не несучи витрат і ризиків. Це перевертає економічну логіку, на якій тримається лідерство США в ШІ», — зазначається в листі. Компанія також попереджає, що несанкціонована дистиляція може прискорити розвиток китайських ШІ-систем для кібероперацій, військових завдань та розвідки.

Що Anthropic вимагає від Конгресу

У відповідь на інцидент компанія закликала законодавців розширити обмін технічними індикаторами та розвідувальними даними між розробниками ШІ-моделей та урядом США. Також пропонується уточнити антимонопольні правила, щоб фірми могли ділитися інформацією про подібні атаки без ризику порушити законодавство про конкуренцію. Окрема вимога стосується експортного контролю: посилення обмежень на передові ШІ-чіпи та обчислювальні ресурси, а також закриття лазівок, що дозволяють китайським організаціям отримувати доступ до закордонних дата-центрів.

Контекст та прецеденти

Це не перший випадок, коли Anthropic стикається з масштабною дистиляцією. У лютому компанія звинуватила DeepSeek, Moonshot AI та MiniMax у генерації понад 16 млн взаємодій з Claude через приблизно 24 000 фіктивних акаунтів. Тоді кампанії були пов'язані з конкретними лабораторіями за IP-адресами, метаданими запитів та інфраструктурними індикаторами. Примітно, що сама дистиляція залишається поширеною галузевою практикою: у квітні Ілон Маск під час дачі показань у федеральному суді визнав, що xAI «частково» використовувала моделі OpenAI при навчанні Grok.

На тлі цих подій конгресмен Білл Хейзенга вніс законопроєкт, що передбачає експортні обмеження та санкції проти закордонних структур, які незаконно отримують доступ до американських ШІ-продуктів. Як аналітик, я зазначаю, що цей інцидент підкреслює гостру необхідність у єдиній системі моніторингу та протидії подібним атакам. Поки американські компанії витрачають мільярди на дослідження, конкуренти отримують доступ до їхніх досягнень через бекдори фіктивних акаунтів, що може підірвати технологічне лідерство США в довгостроковій перспективі.