Суперечка про свідомість ШІ переростає в політичну проблему: аналіз DeepMind
Майбутні розбіжності щодо свідомості штучного інтелекту можуть виявитися не просто науковою суперечкою, а джерелом глибоких політичних конфліктів. До такого висновку дійшли дослідники Google DeepMind Адам Бейлс та Іасон Габріель у своїй роботі «Artificial Minds, Human Disagreement: The Politics of AI Consciousness». Вони стверджують, що суспільству необхідно готуватися до ситуації, коли єдиної думки про свідомість ШІ не буде ні серед експертів, ні серед широкої публіки.
Головний тезис: від науки до політики
Дослідники зазначають, що люди по-різному реагуватимуть на дедалі досконаліші системи ШІ. Одні почнуть вибудовувати з ними емоційні зв'язки та приписувати їм свідомість, інші вважатимуть цю ідею абсурдною. Така суперечка, на думку авторів, швидко вийде за межі науки та перейде у сферу моралі й політики. Ключові питання, які можуть викликати конфлікти: чи допустимо вимикати певні системи, чи потрібно враховувати їхні можливі вподобання та чи можна взагалі говорити про моральний статус ШІ. Рішення вбачається в суспільному обговоренні та пошуку «перекривного консенсусу» — коли люди погоджуються на певну політику, навіть якщо розходяться у фундаментальних поглядах на природу свідомості.
Чому це не просто філософія
Проблема ускладнюється відсутністю єдиного тесту, який міг би остаточно підтвердити наявність суб'єктивного досвіду у ШІ. Це означає, що суспільство може зіткнутися з ситуацією, коли технології вже використовуються масово, люди вже формують до них ставлення, а наукового чи політичного консенсусу все ще немає. Таким чином, питання про свідомість ШІ стає не стільки технічним, скільки інституційним, зачіпаючи право, корпоративну відповідальність та межі морального врахування.
Різні погляди всередині DeepMind
Примітно, що робота Бейлса та Габріеля вийшла на тлі іншої публікації від Google DeepMind. Дослідник Олександр Лерхнер у статті «The Abstraction Fallacy» стверджує, що алгоритмічна маніпуляція символами структурно нездатна створити суб'єктивний досвід. На його думку, ШІ може лише симулювати свідому поведінку, але не втілити свідомість. Це показує, що навіть усередині однієї організації немає єдиної позиції з цього питання.
Реальність: суспільство вже робить вибір
Дослідження показують, що частина суспільства вже готова приписувати ШІ внутрішній досвід. Наприклад, опитування 300 жителів США у 2024 році виявило, що 67% респондентів допускають хоча б деяку можливість феноменальної свідомості у ChatGPT. Це підтверджує тезу Бейлса та Габріеля про те, що суспільна думка може випереджати науковий консенсус.
Питання вже переходить у правову площину. Штати Айдахо та Юта ухвалили закони, що виключають визнання ШІ юридичною особою. Такі заходи не вирішують філософське питання, але фіксують правову позицію: ШІ не повинен отримувати статус особи. Компанії, такі як Anthropic, також починають досліджувати можливе «благополуччя» моделей, хоча й наголошують на відсутності наукового консенсусу.
Мій аналіз: Ринок криптовалют та блокчейн-технологій, заснований на децентралізованому управлінні та смарт-контрактах, може стати ідеальною пісочницею для тестування прав та «свідомості» ШІ-агентів. Питання DAO, керованих ШІ, та автономних агентів, що приймають рішення, вже стоять на порядку денному. Якщо ми не вирішимо політичний аспект зараз, то ризикуємо зіткнутися з хаосом, коли перші «свідомі» алгоритми почнуть вимагати голосуючих прав у децентралізованих протоколах.