На початку липня компанія Anthropic, розробник відомої AI-моделі Claude, стала епіцентром незвичайного інциденту, який виявив серйозні вразливості в білінгових системах AI-гігантів. Користувач з Південної Кореї, який ховався під ніком remy_notes, отримав рахунок на суму понад $16,6 млн, хоча не користувався платними API і навіть не прив'язував банківську картку до сервісу.
Ситуація розвивалася стрімко. Перший рахунок на $1,67 млн надійшов 7 липня. Вже наступного дня сума зросла в десять разів — до $16,6 млн. При цьому розробник, який використовував виключно безкоштовний тарифний план, не вчиняв жодних дій, які могли б призвести до таких нарахувань. В особистому кабінеті споживання API залишалося нульовим, платіжні ключі не були активовані, а картка не прив'язувалася.
Як банк і підтримка відреагували на помилку
Спроби списання були відхилені банком, оскільки суми перевищували ліміт за карткою. Однак після кількох невдалих транзакцій банк заблокував картку користувача. Для вирішення проблеми з Anthropic знадобилося чотири дні та близько 18 листів до служби підтримки. Замість зрозумілої відповіді розробник отримував автоматичні відписки. Лише після ультиматуму з крайнім терміном у понеділок за корейським часом компанія визнала помилку.
Anthropic заявила, що інцидент стався через збій у налаштуваннях функції автопоповнення кредиту. Компанія вимкнула цю опцію «з міркувань безпеки», але не пояснила, чому сума автопоповнення досягла таких абсурдних значень. Важливо зазначити, що гроші фактично не були списані — всі транзакції були відхилені банком.
Системна проблема індустрії
Цей випадок — не поодинокий. Стартап Vaudit провів аудит рахунків на $34 млн за AI-послуги для 60 великих клієнтів, включаючи Panasonic, HP і Honda. Результати показали переплати приблизно на $1,7 млн — близько 5% від загальної суми. Найбільші помилки припадають саме на білінг AI-рішень. Це свідчить про те, що проблема має системний характер: білінгові системи багатьох провайдерів AI просто не готові до масштабів і складності сучасних розрахунків.
Моя аналітика: Ринок AI-послуг зростає вибуховими темпами, але інфраструктура білінгу явно відстає. Подібні збої — це не просто прикрі помилки, а сигнал для всієї індустрії. Розробникам і користувачам варто регулярно перевіряти платіжні панелі та стежити за сповіщеннями банку. Випадковий збій може обернутися серйозними фінансовими проблемами, якщо вчасно не зреагувати.