Збій білінгу Anthropic: користувач з Південної Кореї отримав «примарний» рахунок на $16,6 млн
Інцидент, що стався на початку липня з користувачем із Південної Кореї, виявив серйозні вразливості в платіжних системах компаній, що працюють у сфері штучного інтелекту. Розробник під псевдонімом remy_notes, який використовував безкоштовний тарифний план Anthropic, виявив у своєму акаунті два рахунки на астрономічні суми — $1,67 млн і, менш ніж за добу, вже $16,6 млн. Примітно, що користувач не здійснював жодних операцій через API, не прив'язував платіжну картку та не генерував платних ключів.
Як система «нарахувала» мільйони
Перше сповіщення надійшло 7 липня. Користувач, запідозривши фішинг, перевірив справжність листів: вони надходили з офіційного домену Anthropic та через реальний платіжний сервіс Stripe. В особистому кабінеті споживання API залишалося нульовим, а скрипти та ІІ-агенти не показували аномалій. Банк відхилив дві спроби списання 8 липня через перевищення ліміту за карткою, але після кількох повторних запитів картку все ж було заблоковано.
Реакція Anthropic та масштаб проблеми
Компанія визнала помилку, пояснивши її збоєм у налаштуваннях функції автопоповнення кредиту. Функцію вимкнули «з міркувань безпеки», однак в Anthropic не змогли чітко пояснити, чому сума автопоповнення досягла таких абсурдних значень. На вирішення питання пішло чотири дні та близько 18 листів — замість змістовної відповіді користувач отримував лише автоматичні відписки. Він був змушений встановити крайній термін для компанії до кінця понеділка за корейським часом.
Системний збій в індустрії
Цей випадок — не поодинокий. Стартап Vaudit провів аудит рахунків на $34 млн за ІІ-послуги для 60 великих клієнтів і виявив переплати приблизно на $1,7 млн (близько 5% від загальної суми). Найбільші помилки припадають на білінг рішень на базі ІІ, а серед постраждалих — такі гіганти, як Panasonic, HP та Honda.
Думка експерта: Цей інцидент — тривожний сигнал для всієї індустрії. Проблеми з білінгом в ІІ-секторі стають системними, і вони б'ють не лише по роздрібних користувачах, але й по корпоративних клієнтах. Поки компанії на кшталт Anthropic не впровадять суворі механізми верифікації та лімітування транзакцій, користувачам доведеться покладатися лише на власну пильність: регулярно перевіряти платіжні панелі, стежити за сповіщеннями банку та оперативно реагувати на будь-які підозрілі списання. Інакше випадковий збій може обернутися серйозною фінансовою проблемою.