На початку липня 2025 року стався інцидент, який змусив багатьох переглянути ставлення до автоматизованих платіжних систем у сфері штучного інтелекту. Південнокорейський розробник під псевдонімом remy_notes, який використовував безкоштовний тарифний план Anthropic, отримав від компанії рахунок на астрономічну суму в $16,6 млн. І це при тому, що він не здійснював жодних операцій через API, не прив'язував банківську картку та не генерував токенів.
Хронологія «примарного» рахунку
Перший рахунок на $1,67 млн надійшов 7 липня. За добу сума зросла вдесятеро, досягнувши $16 627 739. Розробник перевірив свої скрипти та ІІ-агенти, але причин для списання не виявив. Банк двічі відхиляв спроби списання, оскільки суми перевищували ліміти картки, але після кількох невдалих транзакцій картку було заблоковано. Вирішення проблеми зайняло чотири дні та потребувало близько 18 листів до служби підтримки, які відповідали лише автоматичними відписками.
Офіційна позиція Anthropic та ширша проблема
Компанія визнала помилку, пояснивши її збоєм у налаштуваннях автопоповнення кредиту. Функцію вже вимкнено. Однак залишилося без відповіді ключове питання: чому сума автопоповнення досягла таких абсурдних значень? Витоку даних або стороннього доступу до сервісу не виявлено.
Цей випадок — лише верхівка айсберга. Стартап Vaudit провів аудит рахунків на $34 млн за ІІ-послуги для 60 великих клієнтів, включаючи Panasonic, HP та Honda. Результати шокують: переплати склали близько $1,7 млн (приблизно 5% від загальної суми). Переважна більшість помилок припадає на білінг рішень на базі штучного інтелекту.
Висновки та рекомендації
Цей інцидент виявляє системну вразливість у платіжних механізмах великих AI-провайдерів. Користувачам варто взяти до уваги: регулярно перевіряйте платіжні панелі, слідкуйте за повідомленнями банку та оперативно реагуйте на підозрілі списання. Випадковий збій може обернутися серйозною фінансовою проблемою, якщо вчасно не вжити заходів.
Думка експерта: Історія з Anthropic — не поодинокий баг, а симптом зростання складності білінгових систем в епоху масового впровадження AI. Поки компанії зосереджені на розвитку моделей, безпека та прозорість платежів залишаються на другому плані. Це може стати «бомбою уповільненої дії» для всієї індустрії, якщо не запровадити суворі стандарти аудиту та користувацького контролю.