Компанія Anthropic, розробник популярної моделі Claude, опинилася в центрі скандалу через грубу помилку в системі білінгу. Користувач із Південної Кореї, який використовував безкоштовний тариф, отримав рахунок на астрономічну суму в $16,6 млн. Примітно, що розробник під псевдонімом remy_notes не лише не користувався платними API-ключами, але навіть не прив'язував банківську картку до акаунту.
Інцидент розпочався 7 липня, коли на поштову скриньку користувача надійшло перше повідомлення на суму $1,67 млн. Вже наступного дня сума зросла в десять разів — до $16,6 млн. Весь цей час розробник не здійснював жодних дій у системі: його дашборд показував нульове використання API, а платні ключі були відсутні. Тим не менш, листи надходили з офіційного домену Anthropic через платіжний сервіс Stripe, що виключало версію про фішинг.
Реакція банку та чотири дні листування
Банк користувача двічі відхилив спроби списання 8 липня, оскільки суми перевищували ліміт за карткою. Однак після кількох невдалих спроб основна картка була заблокована. Щоб отримати письмове підтвердження анулювання рахунків, розробнику знадобилося чотири дні та близько 18 листів до служби підтримки Anthropic. Замість чіткої відповіді він отримував лише автоматичні відписки.
Anthropic визнала помилку, пояснивши її збоєм у налаштуваннях функції автопоповнення кредиту. Компанія заявила, що гроші фактично не списувалися, а сама функція вже вимкнена для запобігання подібним інцидентам. Однак представники Anthropic не змогли чітко пояснити, чому сума автопоповнення досягла таких абсурдних значень. Користувачеві довелося висунути ультиматум із крайнім терміном до кінця понеділка за корейським часом.
Системна проблема: помилки білінгу ІІ-компаній
Цей випадок — не поодинокий. Стартап Vaudit провів аудит рахунків на $34 млн за ІІ-послуги для 60 великих клієнтів, включаючи Panasonic, HP та Honda. Результати показали переплати приблизно на $1,7 млн — близько 5% від загальної суми. Найбільші помилки припадають саме на білінг рішень на базі штучного інтелекту. Це свідчить про те, що проблема має системний характер і зачіпає всю індустрію.
Мій експертний коментар: Даний інцидент — яскравий приклад того, як автоматизовані системи білінгу у сфері ІІ можуть давати збої з катастрофічними наслідками. Ринку терміново потрібні більш прозорі механізми контролю та лімітування витрат, особливо для користувачів безкоштовних тарифів. Поки компанії на кшталт Anthropic не впровадять жорсткі протоколи безпеки та сповіщень, подібні «примарні рахунки» підриватимуть довіру до галузі. Користувачам же варто взяти за правило регулярно перевіряти платіжні панелі та оперативно реагувати на будь-які підозрілі повідомлення від банку.