Інцидент із виставленням рахунку на суму $16,6 млн користувачеві безкоштовного тарифу Claude виявив серйозні прогалини в білінгових системах AI-гігантів. Розробник із Південної Кореї, відомий під псевдонімом remy_notes, зіткнувся з цим на початку липня, і ця історія — не поодинокий випадок, а симптом масштабнішої проблеми.
Усе почалося 7 липня, коли remy_notes отримав перший інвойс на $1,6 млн. Спочатку він запідозрив фішинг, але наступного дня надійшов другий лист — уже на $16,6 млн. Усі посилання вели на офіційний домен Anthropic і платіжну систему Stripe. При цьому панель керування показувала нульове використання API, а ключів, що підлягають тарифікації, на акаунті не було. Банківська картка розробника двічі відхилила спроби списання, оскільки суми перевищували ліміт на одну транзакцію. Перекази надходили від американського продавця ANTHROP.
Користувач ретельно перевірив усі процеси на своєму Mac mini, включно з вісьмома AI-агентами, але не знайшов нічого, що могло б пояснити інцидент. Як превентивний захід він скасував підписку Claude Max і заблокував картку. Однак на з'ясування обставин пішло чотири дні та близько 18 листів у службу підтримки. Частина відповідей надходила автоматично — від AI-агента Anthropic на ім'я Fin. Лише 12 липня компанія підтвердила помилку, заявивши, що не списала жодного долара. Причиною назвали неправильно налаштовану функцію автопоповнення балансу, яку вимкнули як запобіжний захід. Anthropic також наголосила, що доступ до акаунту не був зламаний, але пояснити, чому система згенерувала саме $16,6 млн, служба підтримки не змогла.
Системна проблема, а не поодинокий збій
Цей випадок — лише верхівка айсберга. Аудиторська компанія Vaudit, перевіривши рахунки на загальну суму $34 млн у 60 організаціях з березня по червень, виявила надлишкові нарахування на суму близько $1,7 млн (приблизно 5% від перевіреного обсягу). Більша частина інвойсів стосувалася використання Claude Code від Anthropic. Фахівці виявили кілька системних помилок: клієнтам виставляли рахунки за тарифами нових моделей, хоча фактично використовувалася дешевша стара версія; фіксувалися списання за запити, які завершувалися помилкою або не приносили результату. Окрему категорію склали так звані «шторми повторів» — ситуація, коли AI-агент у фоновому режимі багаторазово повторює невдале завдання, і кожна спроба відображається в рахунку.
Після звернень Vaudit та клієнтів компанії почали повертати кошти. Близько 80% переплат компенсували Amazon, Google, Microsoft, Anthropic та OpenAI.
Мій аналіз: Цей інцидент підкреслює критичну вразливість в інфраструктурі AI-сервісів. Коли AI-агенти керують білінгом, а помилки в коді можуть призводити до багатомільйонних рахунків, довіра користувачів підривається. Компаніям необхідно впроваджувати суворіші механізми верифікації транзакцій і людський контроль, особливо під час обробки великих сум. Інакше такі «збої» стануть не винятком, а нормою.