Система білінгу Anthropic дала серйозний збій, виставивши користувачеві безкоштовного тарифу з Південної Кореї рахунок на $16,6 млн. Інцидент стався на початку липня, і постраждалий — розробник під псевдонімом remy_notes — не мав жодного відношення до платного API і навіть не прив'язував банківську картку до акаунта.
Перший «примарний» рахунок на суму $1,67 млн прийшов 7 липня. Вже наступного дня сума зросла в десять разів — до $16 627 739. Усі повідомлення надходили з офіційного домену Anthropic через платіжний сервіс Stripe, тому спочатку remy_notes підозрював фішинг. Однак перевірка показала, що його скрипти та AI-агенти не генерували жодних запитів, а використання API в особистому кабінеті залишалося нульовим.
Банк відхилив дві спроби списання 8 липня, оскільки суми перевищували ліміт за карткою. Тим не менш, після кількох невдалих транзакцій основну картку все ж заблокували. На вирішення ситуації у служби підтримки Anthropic пішло чотири дні та близько 18 листів — замість зрозумілої відповіді користувач отримував автоматичні відписки.
У чому причина і хто винен?
Anthropic визнала помилку та заявила, що гроші фактично не списувалися. Збій стався через неправильні налаштування функції автопоповнення кредиту, яку компанія вже вимкнула «з міркувань безпеки». Однак представники не пояснили, чому сума автопоповнення досягла настільки абсурдних значень. Також наголошується, що несанкціонованого доступу до сервісу не було.
Цей інцидент — лише верхівка айсберга. Стартап Vaudit провів аудит рахунків на $34 млн за AI-послуги для 60 великих клієнтів, включаючи Panasonic, HP та Honda, і виявив переплати приблизно на $1,7 млн — близько 5% від загальної суми. Найбільші помилки припадають саме на білінг AI-рішень.
Мій висновок: Системи автоматичного білінгу в AI-індустрії все ще далекі від ідеалу. Користувачам варто регулярно перевіряти платіжні панелі та реагувати на будь-які несподівані повідомлення від банку — навіть якщо ви впевнені, що нічого не замовляли. Інакше випадковий збій може обернутися серйозним фінансовим блокуванням.