Лише через три дні після гучного запуску компанія Meta була змушена відкликати одну з ключових функцій своєї нової ШІ-моделі Muse Image. Як я і припускав, спроба використовувати публічні профілі Instagram як джерело даних для генерації зображень обернулася серйозним ударом по репутації гіганта.
Нагадаю, що 7 липня Meta представила Muse Image — першу модель генерації зображень від Meta Superintelligence Labs, інтегровану в Meta AI. Серед заявлених можливостей була опція, що дозволяла додавати в текстовий запит (промпт) ім'я публічного акаунта Instagram. Потім алгоритм обробляв відкриті фотографії цього користувача, створюючи на їх основі нові зображення. Звучало багатообіцяюче, але на ділі викликало шквал критики.
Вже 10 липня компанія оновила офіційний анонс, повідомивши, що дана функція більше недоступна. Офіційна причина — опція «не виправдала очікувань користувачів у питаннях приватності». Однак, як показують події, це м'яко сказано. Вибух обурення був викликаний тим, що функція була ввімкнена автоматично, без явної згоди власників акаунтів. Акторка Ханна Ейнбіндер публічно закликала вимкнути опцію, а профспілка SAG-AFTRA виступила з жорсткою заявою.
У своєму коментарі SAG-AFTRA назвав будь-який механізм, окрім явної та помітної згоди на використання зображень, «неприйнятним» і «повним прорахунком в оцінці громадської думки». Вони підкреслили очевидні небезпеки та шкоду, притаманні такому використанню. Я повністю поділяю цю позицію: в епоху deepfake та цифрових маніпуляцій автоматичне ввімкнення такої функції — це не помилка, а грубіше порушення цифрових прав.
Важливо зазначити, що сама модель Muse Image як продукт нікуди не зникла. Вона, як і раніше, доступна в Meta AI для генерації та редагування зображень за звичайними текстовими запитами та завантаженими фотографіями. Більше того, Meta повідомила, що Muse Image використовується в більш ніж 30 нових ШІ-ефектах для Instagram Stories та в чатах WhatsApp з Meta AI в обмеженій кількості країн.
Думка експерта: Цей інцидент — яскравий приклад того, як гонитва за інноваціями може призвести до катастрофічних наслідків, якщо не враховувати базові принципи конфіденційності. Meta вкотре показала, що готова жертвувати приватністю користувачів заради тестування нових алгоритмів. Рішення вимкнути функцію — правильний, але запізнілий крок. Ринку потрібні чіткі регуляції, які змусять компанії отримувати явну згоду до використання особистих даних для навчання ШІ, а не покладатися на «публічний статус» профілю.