Адміністрація США запровадила експортні обмеження на моделі штучного інтелекту Fable 5 та Mythos 5 від компанії Anthropic. Як з'ясовується, за цим рішенням стоять побоювання, що група, пов'язана з Китаєм, могла отримати доступ до моделі Mythos. Це стало ключовим тригером, який змусив Білий дім діяти швидко та жорстко.
Китайський фактор та інші тригери
За моїми даними, підозри щодо певної організації, яка має зв'язки з КНР, викликали серйозну тривогу в адміністрації Дональда Трампа. Деталі — хто саме, як і коли це сталося — поки залишаються за кадром. Паралельно іншим важливим фактором стали повідомлення про можливий обхід захисту моделі Fable 5. Сама Anthropic наполягає, що йшлося про вузький, неуніверсальний спосіб, який не надавав моделі унікальних можливостей і не становив реальної загрози.
Хроніка подій та реакція сторін
11 червня генеральний директор Amazon Енді Джессі повідомив адміністрацію про можливість обходу обмежень Fable 5. Це сталося в рамках перевірки моделі. Вже наступного дня міністр торгівлі США Говард Латнік направив главі Anthropic Даріо Амодеї листа з вимогою підкоритися експортному контролю. Чиновники нібито намагалися домовитися про добровільне призупинення доступу, але стартап відмовився. За іншою версією, близькою до компанії, Білий дім дав лише 90 хвилин на відключення моделей, не надавши зрозумілих пояснень.
Радник глави Білого дому Девід Сакс заявив, що попередження про вразливість надійшло від надійного партнера, якому довіряють обидві сторони. Він також підкреслив, що «м'яч на стороні Anthropic», і після усунення проблеми експортний контроль буде знято.
Позиція Anthropic: непорозуміння чи загроза?
Anthropic категорично не згодна з діями влади. Компанія стверджує, що лист не містив конкретних деталей про ризики для національної безпеки. Провівши власне розслідування, стартап дійшов висновку, що продемонстрована техніка обходу дозволяє знайти лише «невелику кількість раніше відомих незначних вразливостей». Більше того, в Anthropic заявляють, що інші публічно доступні моделі справляються з цим завданням не гірше. Компанія підкреслює, що витратила «тисячі годин» на тестування захисту спільно з урядами США та Великої Британії, і поки не знайдено універсального способу масового обходу.
Мій аналіз: Цей інцидент — яскравий сигнал того, що геополітична напруженість безпосередньо вторгається у сферу розробки ШІ. Білий дім, побоюючись витоку технологій, діє на випередження, можливо, навіть на шкоду інноваціям. Для ринку це означає зростання невизначеності та волатильності, особливо для проєктів, пов'язаних з децентралізованим ШІ, що ми вже спостерігали на прикладі зростання токенів Venice та Morpheus. Битва за контроль над передовими ШІ-моделями тільки починається, і вона буде жорсткою.