Лише через добу після гучного дебюту Google був змушений згорнути роботу ІІ-генератора зображень, інтегрованого в Google Earth. Інструмент, побудований на базі моделі Nano Banana, дозволяв користувачам «домальовувати» будь-які об'єкти чи події на карті за текстовим запитом — від фантастичних пейзажів до політично чутливих сцен. Однак стрімке поширення контенту, що порушує правила сервісу, поставило корпорацію перед необхідністю екстреного відключення функції.
Проблема виявилася системною. Вже в перші години роботи в мережі з'явилися згенеровані зображення, що зображали вирву від вибуху в Лос-Анджелесі та затоплений Капітолій США. Ці фейки миттєво розлетілися соцмережами, створюючи ілюзію реальних подій. Більше того, як з'ясував незалежний дослідник відкритих даних Генк ван Есс, модерація промптів практично була відсутня.
У своїх тестах ван Есс запитував генерацію зображень, пов'язаних із чутливими темами — наприклад, сцени з біженцями на кордоні з Мексикою або ядерні об'єкти в Ірані. Жоден із цих запитів не був заблокований, що ставить під сумнів ефективність заявлених алгоритмів фільтрації. Це не просто технічний збій, а сигнал про глибокі прогалини в етичних протоколах ІІ-розробки.
Рішення Google видалити функцію так швидко — рідкісний випадок визнання власної помилки. У корпорації пояснили, що інструмент «не відповідав стандартам безпеки», але не розкрили деталей. Очевидно, що ризик репутаційної шкоди та потенційних юридичних наслідків виявився вищим, ніж вигода від інноваційного маркетингу.
Цей інцидент — яскраве нагадування про те, що генеративні моделі, які працюють із геоданими, потребують принципово іншого рівня контролю. На відміну від текстових чат-ботів, тут помилка візуалізується у формі, яку багато хто сприймає як документальне свідчення. Для криптоіндустрії, де довіра до даних і прозорість — наріжні камені, цей кейс особливо повчальний: децентралізовані системи верифікації контенту могли б стати рішенням, але поки що ринок спостерігає, як навіть гіганти спотикаються на рівному місці.
Мій висновок: поспішний запуск і слабка модерація — ознаки того, що гонка за впровадженням ІІ випереджає розробку механізмів відповідальності. Поки такі інструменти не проходитимуть незалежний аудит і не отримають вбудовані «водяні знаки» верифікації, довіряти їм у контексті реальних подій не можна.