Примарні посилання: як ІІ-галюцинації підірвали довіру до австралійського звіту про заборону соцмереж
В урядовому звіті, який став наріжним каменем для запровадження в Австралії заборони на соцмережі для підлітків, виявлено сліди системних помилок, характерних для генеративних нейромереж. Йдеться про ключовий документ із тестування технологій вікової верифікації, підготовлений британською організацією Age Check Certification Scheme (ACCS). Мій аналіз виявив серйозні розбіжності в бібліографії, що ставить під сумнів якість усієї доказової бази.
Випробування обійшлися австралійському бюджету в 3,48 млн австралійських доларів (~$2,5 млн). Фахівці ACCS перевірили понад 60 рішень від 48 постачальників, а підсумковий документ обсягом близько тисячі сторінок у десяти томах було передано уряду в серпні 2025 року. Тоді міністр зв'язку Аніка Веллс заявила, що дані підтверджують наявність «безлічі ефективних інструментів» для верифікації віку. Сама заборона для користувачів молодших 16 років набула чинності 10 грудня 2025 року.
Системні збої в бібліографії
Основна частина звіту присвячена практичним випробуванням, однак проблеми виявилися в розділі про перспективні розробки, де автори звертаються до наукової літератури. Мною виявлено щонайменше шість порушень, які групуються в чотири категорії: фіктивні DOI, посилання, що ведуть на сторонні роботи, неіснуючі комбінації «автор-журнал-рік» та коректні посилання, але зі спотвореними твердженнями.
Наприклад, одна стаття датована березнем 2025 року, хоча реально вийшла лише в липні. В іншому випадку посилання на Weber et al. 2011 нікуди не веде — його немає ні у вказаному журналі, ні в дослідженні Університету Монаша. Це класичні ознаки «галюцинацій» ШІ, а не сумлінної роботи дослідника.
ChatGPT у метаданих
Представники ACCS спочатку категорично заперечували використання ШІ. Однак після виявлення в метаданих чотирьох посилань, які прямо вказують на ChatGPT, позиція змінилася. В організації визнали, що нейромережа переписувала окремі фрагменти для стислості, але наполягають, що саме дослідження створено без участі чат-бота OpenAI. При цьому перевірка виправленого списку джерел виявила нові невідповідності: роки, автори та назви журналів розходяться з оригінальними цитатами.
У Департаменті інфраструктури та зв'язку заявили, що вивчають претензії. Чиновники переказали версію ACCS про те, що посилання «зламалися» після публікації, але визнали, що самостійно цю версію не перевіряли, вважаючи перевірку «трудомісткою». Професор Австралійського національного університету Крістіан Дауні попереджає: хибні посилання в урядових документах ведуть до помилкових рішень і руйнують довіру до інституцій. Незалежний сенатор Фатіма Пейман вимагає вибачень і повернення коштів, нагадуючи про нещодавній інцидент із Deloitte, яка вже повертала частину виплат за використання ШІ у звіті з помилками.
Мій коментар: Ця ситуація — яскравий симптом кризи довіри в епоху ШІ. Коли підрядники економлять на експертизі, перекладаючи роботу на нейромережі, страждає не лише репутація конкретної компанії, а й якість державних рішень. Індустрії терміново потрібні стандарти верифікації джерел і жорсткі санкції за їх порушення, інакше ми ризикуємо будувати політику на фундаменті з вигаданих даних.