Мій детальний аналіз документації, що лежить в основі австралійської заборони соцмереж для неповнолітніх, виявив системну проблему, яка ставить під сумнів якість державних рішень, що ухвалюються на основі «експертних» висновків. Йдеться про тисячосторінковий звіт, підготовлений британською організацією Age Check Certification Scheme (ACCS) за 3,48 млн австралійських доларів (~$2,5 млн). Саме цей документ став формальним обґрунтуванням для закону, що набув чинності 10 грудня 2025 року та обмежує доступ до платформ для користувачів молодших 16 років.
Шість «галюцинацій» у науковому розділі
Основний масив звіту присвячено практичним тестам понад 60 рішень від 48 вендорів. Однак саме вторинний розділ, де автори звертаються до наукової літератури для опису перспективних розробок, виявився «мінним полем». Під час перевірки я виявив щонайменше шість порушень, які групуються в чотири чіткі категорії: фіктивні DOI, посилання, що ведуть на сторонні роботи, неіснуючі комбінації «автор-журнал-рік» та коректні посилання, яким приписано неіснуючі твердження.
Наприклад, одна з цитованих статей датована березнем 2025 року, хоча насправді була опублікована лише в липні. В іншому випадку посилання на роботу Weber et al. 2011 веде в нікуди — її немає ані у вказаному журналі, ані в матеріалах Університету Монаша, на які посилаються автори. Це не просто друкарські помилки, а класичні ознаки генеративного ШІ, який «домислює» джерела.
ChatGPT у метаданих: заперечення та визнання
Спочатку представники ACCS категорично заперечували використання нейромереж, стверджуючи, що кожне посилання пройшло ручну перевірку. Однак після виявлення в метаданих чотирьох фрагментів звіту прямих слідів ChatGPT позиція змінилася. В ACCS визнали, що ШІ використовувався для «скорочення» окремих частин тексту, але наполягають, що саме дослідження та фінальні формулювання створені без участі чат-бота OpenAI. Більше того, вони заявили, що метадані ChatGPT самі по собі є «достатнім повідомленням» про використання ШІ. Це, м'яко кажучи, спірне твердження, яке не витримує критики з точки зору академічної та державної прозорості.
«Жменька помилок» чи системний збій?
У Департаменті інфраструктури та зв'язку Австралії визнали, що не перевіряли версію підрядника про «зламані» посилання, назвавши таку перевірку «трудомісткою». Чиновники намагаються списати все на «жменьку помилок» на 26 сторінках бібліографії, але це небезпечний прецедент. Професор Крістіан Дауні з Австралійського національного університету абсолютно правий: хибні посилання в урядових документах ведуть до помилкових рішень і руйнують довіру до інституцій. Вимога незалежного сенатора Фатіми Пейман про повернення коштів та офіційні вибачення виглядає більш ніж обґрунтованою, особливо на тлі нещодавнього скандалу з Deloitte, яка вже повертала частину виплат за звіт із ШІ-помилками.
Мій висновок: Цей інцидент — не просто історія про неуважних підрядників. Це сигнал про те, що уряди по всьому світу повинні негайно впроваджувати жорсткі стандарти верифікації джерел та контрактні санкції за використання ШІ без розкриття. Інакше ми ризикуємо будувати цифрову політику на фундаменті з «галюцинацій» нейромереж, а не реальних даних.