Лише через три дні після гучного запуску своєї нової моделі генерації зображень Muse Image, корпорація Meta була змушена відкликати одну з ключових функцій, яка викликала шквал критики. Йдеться про опцію, що дозволяла нейромережі використовувати публічні фотографії з Instagram для створення нових зображень на основі текстового запиту.
Чому функція провалилася?
Спочатку Muse Image, представлена 7 липня як флагманський продукт Meta Superintelligence Labs, пропонувала унікальну можливість: додати в промпт ім'я публічного акаунта Instagram, щоб ШІ аналізував відкриті знімки користувача та генерував на їх основі новий контент. Однак уже 10 липня компанія тихо видалила згадку про цю функцію з офіційного анонсу, визнавши, що вона «не виправдала очікувань користувачів щодо конфіденційності».
Проблема виявилася глибшою, ніж просто технічний недолік. Опція була ввімкнена за замовчуванням, що викликало обурення не лише звичайних користувачів, але й професіоналів. Акторка Ганна Ейнбіндер публічно закликала негайно деактивувати цю можливість, а впливова профспілка SAG-AFTRA виступила з різкою заявою. На їхню думку, будь-який механізм, окрім явної та усвідомленої згоди на використання зображень, є «повним прорахунком» та ігнорує очевидні ризики, пов'язані з цифровою ідентичністю та діпфейками.
Що залишилося від Muse Image?
Незважаючи на скандал, сама модель Muse Image нікуди не зникла. Вона продовжує працювати у складі Meta AI, дозволяючи користувачам генерувати та редагувати зображення за текстовими описами та завантаженими фотографіями. Більше того, технологія вже інтегрована в понад 30 нових ШІ-ефектів для Instagram Stories та використовується в чатах WhatsApp з Meta AI в ряді країн. Однак урок, винесений спільнотою, зрозумілий: навіть найдосконаліші алгоритми не повинні працювати на шкоду приватності без чіткої згоди користувача.
Аналітика Cryptalist: Цей інцидент — класичний приклад того, як гонитва за інноваціями може обернутися репутаційними втратами. Meta вкотре зіткнулася з «ефектом зловісної долини» в питаннях етики ШІ. Вимкнувши функцію, вони визнали, що контроль користувача над даними — це не опція, а фундаментальна вимога. Для індустрії це сигнал: будь-який продукт, що використовує публічні дані для навчання або генерації, має спочатку проєктуватися з урахуванням принципу «privacy by design», а не виправлятися постфактум під тиском громадськості.