Суперечка про свідомість ШІ переростає в політичну проблему — аналіз Cryptalist
Питання про те, чи володіє штучний інтелект свідомістю, стрімко виходить за межі суто наукової дискусії. Аналітики Google DeepMind Адам Бейлс та Іасон Габріель у своїй роботі «Artificial Minds, Human Disagreement: The Politics of AI Consciousness» переконливо доводять, що майбутні розбіжності на цю тему можуть стати глибокими, важко вирішуваними та призвести до серйозних політичних конфліктів.
Головний тезис: від філософії до політики
На думку дослідників, суспільство вже зараз розділене: одні люди готові вибудовувати емоційні зв'язки з просунутими ШІ-системами, приписуючи їм свідомість, у той час як інші вважають цю ідею абсурдною. Цей розкол, як підкреслюється в аналізі, може швидко перерости в моральні та політичні дебати. Ключові питання, які постануть перед нами: чи допустимо вимикати певні системи, чи потрібно враховувати їхні «вподобання» і чи можна взагалі говорити про моральний статус ШІ?
Бейлс та Габріель пропонують не шукати єдино правильну відповідь на питання «чи свідомий ШІ?», а зосередитися на пошуку «перекривного консенсусу». Йдеться про ситуацію, коли люди, які дотримуються протилежних поглядів на природу свідомості, зможуть узгодити спільну політику щодо ШІ-систем. Це прагматичний, але вкрай складний підхід, що враховує глибину розбіжностей.
Чому це не просто філософія
Ключова проблема, порушена в роботі, полягає в тому, що єдиного загальноприйнятого тесту на свідомість для ШІ не існує. Через це суспільство ризикує зіткнутися з ситуацією, коли технології вже масово впроваджені, люди вже формують до них ставлення, а наукового чи політичного консенсусу все ще немає. Цей вакуум перетворює проблему з технічної на інституційну, що зачіпає право, корпоративну відповідальність і навіть норми спілкування з системами.
Усередині самого DeepMind, до речі, немає єдності. Так, дослідник Олександр Лерхнер у своїй статті «The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness» стверджує, що алгоритмічна маніпуляція символами структурно нездатна створити суб'єктивний досвід. За його версією, ШІ може лише симулювати свідому поведінку, але не втілити її.
Реальність вже випереджає науку
Дані опитувань лише підтверджують цей розкол. Наприклад, дослідження 2024 року в журналі Neuroscience of Consciousness показало, що 33% респондентів у США впевнені, що ChatGPT не є «суб'єктом досвіду», у той час як 67% допускають хоча б деяку можливість феноменальної свідомості у моделі. Це яскрава ілюстрація того, що частина суспільства вже готова приписувати ШІ внутрішній досвід, незважаючи на відсутність єдиної експертної позиції.
Паралельно з цим, компанії на кшталт Anthropic запускають дослідницькі програми з «благополуччя моделей» (model welfare), а в США питання про статус ШІ поступово переходить у правове поле. Штати Айдахо та Юта вже ухвалили закони, що виключають визнання ШІ юридичною особою. Це, по суті, превентивний політичний захід, що фіксує правову позицію до того, як філософську суперечку буде вирішено.
Мій аналіз: Ми спостерігаємо класичний конфлікт між технологічним прогресом та нашою нездатністю домовитися про фундаментальні поняття. Індустрія криптовалют та блокчейну вже стикалася з подібними викликами у питаннях децентралізації та управління. Тепер же, коли йдеться про свідомість машин, ставки незмірно вищі. Ігнорування цього політичного виміру — найбільша помилка, яку може зробити галузь ШІ.