Ілон Маск, засновник xAI, виступив із черговою гучною заявою, яка змушує замислитися про майбутнє людства в епоху штучного інтелекту. За його оцінками, вже через п'ять років ШІ може перевершити сукупний інтелект усіх людей на планеті, а в найближче десятиліття людство, найімовірніше, втратить контроль над цією технологією. Це не просто гіпотеза — це аналіз, заснований на поточних темпах розвитку нейромереж та обчислювальних потужностей.
Маск підкреслює, що ШІ буде здатний виконувати практично будь-які інтелектуальні завдання краще за людину. Єдиний виняток, за його словами, — це «бути людиною». Такий сценарій він називає «епохою достатку», прогнозуючи, що до 2036 року люди зможуть отримувати практично будь-які товари та послуги завдяки синергії ШІ та робототехніки. Однак ризики залишаються, і вони значні.
Безпека та взаємні перевірки
Маск визнає, що зупинити розвиток ШІ та робототехніки неможливо — навіть якби існувала «кнопка зупинки», її натискання не було б виправданим. Натомість він пропонує провідним AI-компаніям впровадити систему взаємних перевірок: до релізу надавати конкурентам обмежений доступ до нових моделей, щоб виявляти небезпечні здібності. Якщо ризики не будуть усунені, на думку Маска, у справу мають вступити державні регулятори. Ця ідея вже знаходить відгук — аналогічну ініціативу раніше висунув голова Google DeepMind Деміс Хассабіс.
Критика OpenAI та погляд на конкурентів
У тому ж інтерв'ю Маск розкритикував трансформацію OpenAI з некомерційної організації в комерційну структуру. Він нагадав, що проєкт створювався як відкрита компанія «для всього світу», але в підсумку перетворився на закритий бізнес. Стосовно голови Anthropic Даріо Амодеї Маск був більш стриманим, назвавши його «принциповою людиною», але підкресливши необхідність співпраці з питань безпеки навіть між конкурентами.
Нагадаю, що раніше Еліезер Юдковські та Віталік Бутерін також попереджали про катастрофічні ризики надрозумного ШІ. Однак, як справедливо зауважив співзасновник Near Protocol Ілля Полосухін, у ШІ відсутні економічні стимули для знищення людства. З моєї точки зору, ключове питання полягає не в тому, чи зможе ШІ захопити контроль, а в тому, чи встигнемо ми створити адекватні механізми управління до того, як технологія стане неконтрольованою.