Компанія Meta поспішно вимкнула одну з ключових функцій своєї нової моделі генерації зображень Muse Image — можливість створювати контент, посилаючись на публічні акаунти Instagram. Рішення було ухвалено лише через три дні після запуску, що свідчить про серйозні прорахунки в оцінці очікувань користувачів.
Muse Image, представлена 7 липня як перша модель генерації зображень від Meta Superintelligence Labs, інтегрована в Meta AI, спочатку дозволяла користувачам додавати в промпт ім'я публічного профілю Instagram. Система потім використовувала відкриті фотографії з цього акаунту для створення нового зображення. Однак уже 10 липня компанія оновила анонс, повідомивши, що функція «не виправдала очікувань» користувачів у питаннях приватності.
Приватність як головний камінь спотикання
Критика на адресу Muse Image була жорсткою. Основні претензії стосувалися автоматичного ввімкнення функції за замовчуванням, що створювало серйозні ризики для конфіденційності. Акторка Ганна Ейнбіндер публічно закликала користувачів вимикати цю опцію. Гільдія кіноакторів США (SAG-AFTRA) також виступила з жорсткою заявою, назвавши неприйнятним будь-який механізм використання зображень, окрім явної та помітної згоди користувача.
Після вимкнення функції профспілка підтримала рішення Meta, зазначивши, що будь-яке інше використання, окрім явної згоди, є «повним прорахунком в оцінці громадської думки щодо очевидних небезпек і шкоди, притаманних такому використанню».
Що залишилося в Muse Image
Незважаючи на відмову від спірної функції, сама модель Muse Image як продукт залишається доступною в Meta AI. Користувачі, як і раніше, можуть генерувати та редагувати зображення на основі текстових запитів і фотографій. Більше того, Meta підтвердила, що Muse Image вже використовується в понад 30 нових ІІ-ефектах для Instagram Stories і в чатах WhatsApp з Meta AI в обмеженій кількості країн.
Нагадаю, що 9 червня Meta також представила мультимодальну модель Muse Spark 1.1, орієнтовану на агентні завдання та кодинг.
Коментар експерта: Цей інцидент наочно демонструє, наскільки тонка межа між інноваціями та порушенням приватності в епоху генеративного ІІ. Meta, володіючи величезним масивом даних користувачів, явно недооцінила суспільний резонанс. Хоча компанія швидко відреагувала, цей кейс стане важливим прецедентом для регулювання використання публічних даних у навчанні та роботі ІІ-моделей. У майбутньому, ймовірно, ми побачимо більш суворі вимоги до явної згоди користувачів, і це піде на користь усій екосистемі.