Ключовий документ, який австралійська влада використовувала як обґрунтування для заборони соцмереж підліткам, виявився пронизаний слідами штучного інтелекту. Йдеться про звіт британської організації Age Check Certification Scheme (ACCS), присвячений тестуванню технологій вікової верифікації. У результаті перевірки я виявив, що документ містить посилання на неіснуючі наукові публікації — класична ознака «галюцинацій» нейромереж.
Випробування обійшлися в 3,48 млн австралійських доларів (~$2,5 млн). Фахівці ACCS протестували понад 60 рішень від 48 постачальників і в серпні 2025 року передали уряду підсумковий звіт обсягом близько тисячі сторінок у десяти томах. Міністр зв'язку Аніка Веллс тоді заявила, що дані підтверджують наявність «безлічі ефективних інструментів» для вікової верифікації. Сам же заборона для користувачів молодших 16 років набула чинності 10 грудня 2025 року.
Системні помилки в науковому розділі
Основна частина звіту присвячена практичним випробуванням наявних рішень, і там проблем немає. Однак у розділі про перспективні розробки, де автори звертаються до наукової літератури, виявилися серйозні невідповідності. Я нарахував шість порушень, які групуються в чотири категорії: фіктивні DOI, DOI, що ведуть на сторонні роботи, комбінації «автор-журнал-рік», не підтверджені жодною публікацією, та коректні посилання, але без тих тверджень, які їм приписує звіт.
Наприклад, одну статтю ACCS датувала березнем 2025 року, хоча насправді вона вийшла лише в липні. В іншому випадку посилання на Weber et al. 2011 нікуди не вело — її не знайшли ні в зазначеному журналі, ні в дослідженні Університету Монаша, куди відсилали автори.
ChatGPT у метаданих
Представники ACCS спочатку категорично заперечували використання ШІ, стверджуючи, що кожне посилання було ретельно перевірене. Однак після виявлення в деяких частинах звіту чотирьох посилань із метаданими, що прямо вказують на ChatGPT, позицію довелося пом'якшити. В ACCS визнали, що нейромережа переписувала окремі фрагменти для стислості, але наполягали: саме дослідження та підсумковий текст створені без участі чат-бота OpenAI.
Показово, що перевірка виправленого списку джерел, який ACCS передала додатково, виявила нові нестиковки: роки, автори та назви журналів розходилися з оригінальними цитатами зі звіту.
«Жменька помилок» чи системна проблема?
У Департаменті інфраструктури та зв'язку заявили, що вивчають претензії. На сенатських слуханнях чиновники переказали версію ACCS: посилання були робочими на момент публікації, а «зламалися» пізніше. Перший помічник секретаря Сара Ванденбрук визнала, що відомство цю версію самостійно не перевіряло, вважаючи перевірку «трудомісткою». При цьому в департаменті наголосили, що йдеться лише про «жменьку помилок» на 26 сторінках із бібліографією.
Професор Австралійського національного університету Крістіан Дауні попередив, що хибні посилання в урядових документах ведуть до помилкових рішень і руйнують довіру до інституцій. Незалежна сенаторка Фатіма Пейман зажадала офіційних вибачень і повернення коштів від підрядника, нагадавши про нещодавній інцидент із Deloitte, яка в жовтні 2025 року повертала частину виплат за контрактом на 440 000 австралійських доларів за використання ШІ у звіті з помилками.
Мій аналіз: Ця ситуація — тривожний сигнал для всієї індустрії. Коли державні рішення, що зачіпають мільйони громадян, ґрунтуються на даних, які не пройшли елементарну перевірку на достовірність, ми спостерігаємо не просто недбалість, а системний збій в управлінні. Вимога сенаторки Пейман про повернення коштів — мінімальний захід. Критично важливо закріпити в контрактах із підрядниками юридичну відповідальність за використання ШІ та обов'язкову валідацію кожного джерела. Інакше «галюцинації» нейромереж можуть лягти в основу не лише звітів, а й законів.