Корпорація Google була змушена в екстреному порядку деактивувати ШІ-генератор зображень на базі моделі Nano Banana, інтегрований у Google Earth. Інструмент проіснував менше доби — настільки стрімкою виявилася реакція спільноти на відверто небезпечний контент, який нейромережа створювала без жодних обмежень.
Функціонал дозволяв користувачам «домальовувати» на карті будь-які об'єкти або події за текстовим описом. Однак уже в перші години роботи в мережу витекли згенеровані зображення, що зображали наслідки вибуху в Лос-Анджелесі та затоплений Капітолій США. Це не просто безневинні артефакти — подібні фейки здатні спровокувати паніку або бути використані в дезінформаційних кампаніях.
Особливу тривогу викликає той факт, що система не фільтрувала навіть найчутливіші запити. Дослідник відкритих даних Генк ван Есс публічно підтвердив: його промпти, включно з генерацією зображень біженців на кордоні з Мексикою або ядерних об'єктів в Ірані, проходили без жодного попередження чи блокування. Це пряме порушення власних політик Google щодо боротьби зі шкідливим контентом.
Розробники пояснили видалення інструменту тим, що користувачі масово порушували правила сервісу. Однак, на мою думку, проблема глибша: компанія явно недооцінила ризики, пов'язані з генеративними моделями в геопросторовому контексті. Коли нейромережа отримує доступ до реальних координат, межа між вигадкою та «документальним» свідченням стирається катастрофічно швидко.
Цей інцидент — яскравий приклад того, як поспішне впровадження ШІ без належного контролю може обернутися репутаційним ударом. Google варто було б спочатку протестувати механізми модерації на закритій вибірці користувачів, перш ніж випускати такий потужний інструмент у відкритий доступ. Інакше ми спостерігатимемо подібні провали знову і знову — і не лише в гігантів на кшталт Google.