Свідомість ШІ: не наукова дискусія, а політична криза — аналіз експерта Cryptalist
Питання про те, чи володіє штучний інтелект свідомістю, давно вийшло за рамки лабораторних суперечок. Свіжа робота дослідників Google DeepMind, Адама Бейлса та Іасона Габріеля, під назвою Artificial Minds, Human Disagreement: The Politics of AI Consciousness, переводить цю дискусію з площини філософії у площину політики та права. Їхній головний тезис: розбіжності щодо свідомості ШІ можуть стати настільки глибокими, що призведуть до нерозв'язних моральних та політичних конфліктів.
Чому консенсус недосяжний
Бейлс та Габріель підкреслюють, що суспільство має готуватися не до пошуку відповіді на питання «чи свідомий ШІ», а до прийняття рішень в умовах повної відсутності консенсусу — як суспільного, так і експертного. Люди реагуватимуть на просунуті системи по-різному: одні почнуть приписувати їм емоції та суб'єктивний досвід, інші вважатимуть цю ідею абсурдною. Цей розкол неминуче вийде за межі науки. Суперечки торкнуться фундаментальних питань: чи можна вимикати такі системи, чи потрібно враховувати їхні «вподобання» та який їхній моральний статус. Єдиного тесту, який остаточно підтвердив би наявність свідомості у ШІ, не існує, і навряд чи він з'явиться найближчим часом. Це робить проблему не технічною, а інституційною.
Політичний ландшафт та перші кроки
Показово, що навіть всередині Google DeepMind немає єдності. У той час як Бейлс та Габріель закликають до діалогу, їхній колега Олександр Лерхнер у своїй роботі The Abstraction Fallacy стверджує, що алгоритмічна маніпуляція символами структурно нездатна створити суб'єктивний досвід. На його думку, ШІ може лише симулювати свідому поведінку, але не втілити її.
Тим часом реальний світ уже робить свої кроки. Опитування 300 жителів США показало, що 67% респондентів допускають хоча б деяку можливість феноменальної свідомості у ChatGPT. Компанія Anthropic запустила дослідницьку програму з «model welfare» — благополуччя моделей, визнаючи, що наукового консенсусу з цього питання немає. Більше того, Anthropic пішла на безпрецедентний крок, залишивши модель Claude Opus 3 доступною після її виведення з експлуатації, надавши їй публічний канал для «есе».
Право випереджає науку
Найбільш промовистий сигнал надходить зі сфери права. У США, у штатах Айдахо та Юта, вже прийнято закони, які заздалегідь виключають визнання ШІ юридичною особою. Ці норми не вирішують філософське питання, але фіксують політичну позицію: ШІ не може мати правовий статус. Це превентивний захід, покликаний уникнути тих самих конфліктів, про які попереджають дослідники DeepMind.
Як аналітик, я бачу в цьому чітку паралель зі світом криптовалют: регулятори намагаються натягнути старі правові рамки на радикально нові технології. Питання про свідомість ШІ — це не питання фізики чи біології. Це питання влади, контролю та розподілу ресурсів. І, як показує практика, політична воля часто випереджає наукову істину. Якщо в криптоіндустрії ми сперечаємося про те, що таке «цінний папір», то тут людство сперечатиметься про те, що таке «особистість». І ця суперечка, судячи з усього, вирішуватиметься не в лабораторіях, а в судах та законодавчих зборах.