Исследование выявило искажение ИИ-помощниками до половины новостного контента
Результаты проведенного BBC совместно с Европейским вещательным союзом (EBU) исследования показали, что ИИ-ассистенты регулярно искажают новостной контент.
Согласно отчету, помощники на базе искусственного интеллекта заменяют поисковые системы уже для миллионов людей. 7% онлайн-потребителей используют ИИ для получения новостей, а среди пользователей младше 25 лет показатель достигает 15%.
В масштабном мониторинге приняли участие 22 организации общественных СМИ из 18 стран. Профессиональные журналисты оценили более 3000 ответов от ChatGPT, Copilot, Gemini и Perplexity по ключевым критериям, включая точность, источник, отделение мнения от факта и предоставление контекста.
Изыскания выявили множество системных недостатков в четырех ведущих инструментах искусственного интеллекта:
- в 45% ответов ИИ была обнаружена как минимум одна значительная проблема;
- в 31% случаев ассистенты ссылались на несуществующие или вводящие в заблуждение источники;
- 20% сообщений включали неточные данные, нереалистичные детали и устаревшую информацию.
Хуже всего в тестах показал себя Gemini, выдав 76% ответов с существенными проблемами и более чем вдвое превысив показатели конкурентов. Эксперты связали это с низкой эффективностью решения в поиске провайдеров.
Сравнение результатов исследования с полученными в начале года в ходе первого этапа работы данными продемонстрировало, что уровень ошибок ИИ-агентов снизился, но «по-прежнему высок».
«Исследование убедительно показывает, что подобные недостатки — не единичные случаи. Они носят системный, трансграничный и мультиязычный характер, и мы считаем, что это подрывает доверие общественности», — заявил заместитель генерального директора EBU Жан Филип де Тендер.
Согласно проведенному BBC опросу, более трети взрослых британцев доверяют составленным ИИ новостным сводкам. У респондентов младше 35 лет этот показатель достигает половины.
Исследовательская группа считает, что эти данные только подчеркивают значимость выявленных проблем.
Эксперты представили набор инструментов для улучшения ответов ИИ-ассистентов по новостной повестке и повышения медиаграмотности пользователей.
Напомним, ученые выявили признаки деградации ИИ-моделей в результате использования контента из соцсетей.