На початку липня 2025 року компанія Anthropic, розробник передових ШІ-моделей, зіткнулася з серйозним збоєм у системі білінгу. Помилка призвела до того, що користувачеві з Південної Кореї, який використовував безкоштовний тариф, було виставлено рахунок на астрономічну суму — понад $16,6 млн. Інцидент, який виявив системні проблеми в білінгу ШІ-сервісів, заслуговує на пильну увагу.
Розробник під псевдонімом remy_notes, який не прив'язував до свого акаунта платіжну картку та не використовував API, почав отримувати сповіщення від Anthropic. Перший рахунок на суму $1,67 млн надійшов 7 липня. Вже наступного дня сума зросла в десять разів — до $16 627 739. Усі сповіщення надходили з офіційного домену Anthropic через платіжний сервіс Stripe, що виключало версію про фішинг.
Як це сталося
В особистому кабінеті користувача не було жодного запиту до API, не було створено платних ключів. Розробник ретельно перевірив свої скрипти та ШІ-агентів, але не знайшов причин для нарахування. Проблема погіршилася, коли банк, двічі відхиливши спроби списання через перевищення ліміту картки, зрештою заблокував її. На вирішення ситуації службі підтримки знадобилося чотири дні та близько 18 листів.
Офіційна позиція та приховані ризики
Anthropic визнала помилку, заявивши, що гроші не списувалися. Причиною названо збій у налаштуваннях функції автопоповнення кредиту, яку вже вимкнено. Однак компанія не пояснила, яким чином сума автопоповнення могла досягти таких абсурдних значень. Це викликає питання до надійності внутрішніх систем контролю.
Даний випадок не поодинокий. Стартап Vaudit, що спеціалізується на аудиті ШІ-витрат, перевірив рахунки на $34 млн для 60 великих клієнтів, включаючи Panasonic, HP та Honda. Результати показали переплати приблизно на $1,7 млн, що становить близько 5% від загальної суми. Найкритичніші помилки припадають саме на білінг ШІ-рішень.
Мій аналіз: Ринок ШІ-послуг зростає експоненційно, але інфраструктура білінгу явно не встигає за ним. Цей інцидент — не просто прикра помилка, а сигнал про те, що системи автоматичних нарахувань потребують принципово інших механізмів захисту. Користувачам, особливо корпоративним, варто запровадити регулярний аудит платежів та налаштувати жорсткі ліміти на операції. Інакше випадковий збій може обернутися реальною фінансовою катастрофою.