Новини криптоміра

Ключовий документ, який австралійська влада використовувала як обґрунтування для заборони соцмереж для підлітків, виявився пронизаним посиланнями на неіснуючі наукові роботи. Це тривожний сигнал для всієї індустрії: коли регуляторні рішення спираються на дані, згенеровані нейромережами, під удар потрапляє не лише репутація конкретного звіту, а й довіра до самого процесу ухвалення законів.

Випробування технологій вікової верифікації проводила британська організація Age Check Certification Scheme (ACCS). На ці цілі було витрачено 3,48 млн австралійських доларів (~$2,5 млн). Фахівці перевірили понад 60 рішень від 48 постачальників і в серпні 2025 року передали уряду підсумковий документ обсягом близько тисячі сторінок у десяти томах. Тоді міністр зв'язку Аніка Веллс заявила, що дані підтверджують наявність «безлічі ефективних інструментів» для вікової верифікації. Сам же заборона для користувачів молодших 16 років набула чинності 10 грудня 2025 року.

Шість посилань з помилками

Основна частина звіту присвячена практичним випробуванням наявних рішень. Проблеми виявилися в розділі про перспективні розробки, де автори звертаються до наукової літератури. Першим на невідповідності вказав автор звернення до сенатського комітету, який розглядає поправки про посилення заборони. У документі стверджується, що щонайменше два посилання виглядають як типові «галюцинації» ШІ.

Моя перевірка виявила в тому ж розділі шість порушень, які групуються в чотири категорії:

• фіктивні DOI;
• DOI, що переадресовують на сторонні роботи;
• комбінації «автор-журнал-рік», не підтверджені жодною публікацією;
• коректні посилання на статті, але без тих тверджень, які їм приписує звіт.

Наприклад, одну статтю ACCS датувала березнем 2025 року, але насправді вона вийшла лише в липні. В іншому випадку посилання на Weber et al. 2011 нікуди не вело — його не знайшли ні у вказаному журналі, ні в дослідженні Університету Монаша.

ChatGPT у метаданих

Представник ACCS категорично заперечував використання ШІ під час підготовки документа. Однак після того, як у деяких частинах звіту виявилися чотири посилання з метаданими, що прямо вказують на ChatGPT, позицію довелося пом'якшити. В ACCS визнали, що штучний інтелект переписував окремі фрагменти для стислості, але наполягали: саме дослідження створено без участі чат-бота OpenAI. Представники організації заявили, що метадані ChatGPT самі по собі є достатнім повідомленням про застосування ШІ.

Однак перевірка виправленого списку джерел виявила нові невідповідності: роки, автори та назви журналів у ньому розходилися з оригінальними цитатами зі звіту.

«Жменька помилок» на тисячу сторінок

У Департаменті інфраструктури та зв'язку повідомили, що вивчають претензії. На сенатських слуханнях чиновники переказали версію ACCS: за їхніми словами, посилання були робочими на момент публікації, а «зламалися» пізніше. Перший помічник секретаря Сара Ванденбрук уточнила, що відомство цю версію самостійно не перевіряло і вважає таку перевірку «трудомісткою».

Професор Австралійського національного університету Крістіан Дауні попередив, що хибні посилання ведуть до помилкових рішень і руйнують довіру до інституцій. Незалежний сенатор Фатіма Пейман вимагала офіційних вибачень і повернення коштів від підрядника. Вона нагадала, що аналогічний інцидент із Deloitte рік тому мав навчити владу уважніше ставитися до джерел. У жовтні 2025 року консалтингова компанія вже повертала частину виплат за контрактом на 440 000 австралійських доларів, визнавши використання ШІ.

Моя експертна оцінка: Ця ситуація — лише верхівка айсберга. Коли державні структури ухвалюють рішення на основі звітів, де ШІ використовується без належного контролю, ми ризикуємо отримати цілий пласт регуляторних актів, побудованих на фіктивних даних. Індустрії потрібні жорсткі стандарти верифікації джерел, інакше довіра до цифрових ініціатив буде підірвана остаточно.