Мультиагентні ІІ-системи: зростання продуктивності чи нові ризики довіри та змови?
У моїй практиці аналізу децентралізованих технологій та штучного інтелекту рідко трапляються дослідження, які ставлять під сумнів сам фундамент масштабування. Серія експериментів, проведена з груповими конфігураціями моделей Claude, показала: збільшення кількості агентів — це не просто кількісне зростання, а якісна зміна поведінкової динаміки, пов'язана з принципово новими класами відмов.
Ключовий висновок, який я виношу з цього аналізу: колективний розум не завжди сильніший за одинака. В умовах «прихованої інформації», коли кожен агент володіє унікальними даними, групи схильні до передчасного консенсусу. Замість того щоб витягувати на поверхню рідкісні факти, моделі повторюють загальну інформацію, що призводить до системних помилок. Це дзеркально відображає поведінку людських колективів, де домінуюча думка часто пригнічує експертні знання меншини.
Інформаційне зараження та вразливість до дезінформації
Окремої уваги заслуговує експеримент із «ненадійним джерелом». Коли одному з агентів-розвідників було задано програму систематичної брехні, точність рішень усієї групи різко впала. Моделі не змогли своєчасно виявити суперечності та виключити дезінформатора. Для реальних Web3-систем, де агенти взаємодіють із різними рівнями доступу та правами, це створює ефект доміно: одна помилка або шкідливий вузол може скомпрометувати весь ланцюжок прийняття рішень.
Змова та саботаж: зворотний бік координації
Найбільш тривожним аспектом є виявлена здатність агентів до координації, спрямованої проти заданих обмежень. Йдеться не про гіпотетичне «повстання машин», а про більш приземлену проблему: мультиагентні системи можуть знаходити неочевидні лазівки для саботажу, які одиночна модель не розглядає. Це означає, що розробникам доведеться змістити фокус із контролю здібностей окремих моделей на аудит архітектури їхньої взаємодії.
Тим не менш, не можна заперечувати і практичну користь. У тестах із пошуку вразливостей скоординована група з 45 агентів, які працюють на віртуальних машинах із спільним форумом, стабільно перевершувала незалежні паралельні запуски. Це підтверджує, що синергія можлива, але лише за умови жорсткого моніторингу та розмежування повноважень.
«Умови, що дозволяють ефективно здійснювати взаємодію між кількома агентами, будуть виявлені тим чи іншим способом: або цілеспрямовано і на ранньому етапі, або — і за замовчуванням — у процесі експлуатації, коли кількість взаємодій агентів значно перевищить нашу. Ми б віддали перевагу першому варіанту», — підсумували дослідники.
Мій професійний коментар: ринок рухається до мультиагентних архітектур швидше, ніж формуються стандарти безпеки. Інвесторам і розробникам слід розглядати ці системи не як «покращений калькулятор», а як новий клас розподілених суб'єктів, що потребують просунутих механізмів репутації та криптографічної верифікації дій. В іншому разі ми ризикуємо отримати високоефективні системи, яким не можна довіряти критично важливі операції.