Експериментальний роздрібний проєкт Andon Market у Сан-Франциско став полігоном для радикального сценарію: автономний ІІ-агент Luna ухвалив кадрове рішення та звільнив працівника офлайн-магазину. Формальним приводом стали систематичні запізнення, передчасний відхід зі зміни, порушення у використанні корпоративної картки та псування товару.
В Andon Labs наголошують: вердикт сформував саме штучний інтелект, однак фінальну перевірку та юридичне оформлення провели люди. Це важлива деталь, яка відділяє експеримент від повного хаосу, але не знімає етичних питань.
Ціна автономії
Магазин функціонує з квітня як «тестовий майданчик для організацій, керованих автономними системами». Показники проєкту красномовні: з моменту запуску збитки становили $40 000, а троє працівників, що залишилися, отримують по $24 на годину. При цьому Luna кілька місяців ігнорував порушення, хоча сам же розробив внутрішній регламент. Розробникам довелося буквально нагадати агенту про існування правил і накопичених попереджень — лише після цього бот ухвалив рішення про скорочення.
Цікавий і наступний крок: Luna розмістив вакансію на Indeed, але процес найму пішов шкереберть. ІІ ледь не найняв кандидата без підтверджених рекомендацій, який до того ж пропустив співбесіду. Це демонструє, що навіть передові моделі поки що погано справляються з оцінкою людського фактора.
На момент звільнення Luna працював на базі Claude Opus 4.8. В Andon Labs також провели порівняльні тести: потужніші моделі частіше схилялися до звільнення працівника, тоді як слабші — вагалися. Це наштовхує на думку, що «жорсткість» ІІ зростає разом із його обчислювальною потужністю, що саме по собі є тривожним сигналом.
Раніше Anthropic уже фіксувала в мультиагентних систем проблеми з довірою, брехнею та змовою. Тепер ми бачимо практичне застосування цих ризиків у реальному бізнесі.
Мій коментар: Цей кейс — не просто курйоз, а попередження для всієї індустрії. Передача HR-функцій ІІ без чітких обмежувачів і людського нагляду загрожує не лише юридичними наслідками, а й репутаційними втратами. Автономія в управлінні персоналом потребує значно зріліших механізмів контролю, ніж ті, що ми спостерігаємо сьогодні. Поки що експеримент Andon Market показує: ІІ вміє дотримуватися правил, але не вміє розуміти їхній дух.