Стрімкий запуск і таке ж швидке відключення — так можна охарактеризувати історію з ІІ-генератором зображень на базі моделі Nano Banana, яку Google інтегрувала в Google Earth. Інструмент проіснував менше 24 годин, перш ніж розробники були змушені його деактивувати. Причина банальна й водночас показова: користувачі миттєво знайшли спосіб порушувати правила сервісу, перетворюючи картографічний продукт на майданчик для створення відверто дезінформаційного контенту.
Суть функції полягала в тому, щоб за текстовим запитом «домалювати» будь-яку точку чи подію прямо на карті. Звучало це як зручний креативний інструмент для візуалізації гіпотетичних сценаріїв. Однак реальність виявилася куди менш невинною. Уже за кілька годин після запуску соцмережами розлетілися згенеровані нейромережею зображення, що зображали, наприклад, гігантський кратер від вибуху в Лос-Анджелесі або затоплений Капітолій США.
Особливу тривогу викликає те, що система не справлялася навіть із базовою модерацією запитів. Дослідник відкритих даних Генк ван Есс під час своїх тестів виявив, що його промпти, включно із запитами на створення зображень біженців на кордоні з Мексикою або ядерного об'єкта в Ірані, проходили без жодних блокувань. Це прямий доказ того, що механізми фільтрації контенту в Nano Banana або були відсутні, або були налаштовані вкрай поверхнево.
З точки зору професійного аналізу, цей інцидент — не просто технічний збій, а симптом системної проблеми. Google вкотре намагається впровадити генеративний ІІ у масові продукти, але поспіх призводить до репутаційних ризиків. Коли йдеться про картографічні сервіси, які сприймаються як джерело об'єктивних даних, будь-які маніпуляції з візуалізацією реальності особливо небезпечні. Фейкові зображення катастроф чи військових об'єктів можуть спровокувати паніку або використовуватися для пропаганди.
Мій вердикт: Google вчинила правильно, відкотивши функцію, але сам факт такого запуску викликає питання до внутрішніх процесів контролю якості. У гонитві за інноваціями не можна забувати про базову відповідальність перед користувачами. Урок для всієї індустрії очевидний: генеративний ІІ в геопросторових продуктах потребує не просто технічної реалізації, а й глибокого опрацювання етичних і юридичних обмежень. Інакше ми ризикуємо отримати інструмент, який не інформує, а маніпулює.