Китайський ІІ-стартап Moonshot AI здійснив значний прорив, представивши Kimi K3 — найбільшу на сьогодні відкриту модель класу 3T. З 2,8 трильйонами параметрів, нативним зором і контекстним вікном в 1 мільйон токенів, ця система впевнено входить до еліти світового ІІ, поступаючись, за власними даними розробника, лише пропрієтарним гігантам Claude Fable 5 та GPT 5.6 Sol.
Архітектурна основа K3 — інноваційна Kimi Delta Attention (KDA) та механізм Attention Residuals (AttnRes). KDA оптимізує обробку довгих послідовностей даних, а AttnRes дозволяє моделі вибірково вилучати критично важливу інформацію, не обробляючи всі шари однаково. Результат — глибше розуміння контексту та збереження сенсу навіть під час роботи з найскладнішими текстами. Розрідженість обчислень забезпечується фреймворком Stable LatentMoE: з 896 експертів одночасно активні лише 16, що в поєднанні з новими даними та методиками навчання дало зростання ефективності в 2,5 рази порівняно з попередницею Kimi K2.
Бенчмарки: де K3 сяє, а де поступається
Результати тестування K3 неоднозначні. Модель демонструє видатні показники на завданнях, що потребують тривалих інженерних сесій та складної агентної поведінки. На SWE Marathon вона набрала 42 бали, випередивши Fable 5 (35) та GPT-5.6 Sol (39). У тесті BrowseComp (91,2) та Program Bench (77,8) вона також виявилася попереду. На Terminal Bench 2.1 результат у 88,3 бали лише на 0,5 бала поступається Sol (88,8) та значно перевершує Fable 5 (84,6).
Однак на бенчмарках, що оцінюють глибокі наукові знання, K3 відстає. На FrontierSWE вона набрала 81,2 проти 86,6 у Fable 5, а на HLE-Full — 43,5 проти 53,3. Важливо зазначити, що методики тестування відрізнялися, і це могло вплинути на підсумкові цифри.
Кодинг, чипи та творчість: практичні кейси
K3 здатна автономно вести тривалі інженерні сесії, навігувати по величезних репозиторіях та керувати термінальними інструментами. В одному з тестів модель протягом 24 годин займалася оптимізацією GPU-ядер, показавши результат на рівні Fable 5. Більше того, рання версія K3 самостійно написала MiniTriton — компактний компілятор для GPU-ядер.
Демонстраційні кейси вражають: K3 спроектувала чип для нейромережі на власній архітектурі за 48 годин, використовуючи open-source інструменти. Отриманий чип площею 4 мм² видає понад 8700 токенів на секунду. Модель також здатна створювати ігрові прототипи, монтувати відео та проводити складний науковий аналіз, відтворюючи, наприклад, універсальні співвідношення з обчислювальної астрофізики за дві години замість двох тижнів роботи дослідника.
Аналітичний коментар Cryptalist: Kimi K3 — це безумовний крок вперед для відкритих моделей. Однак розрив із пропрієтарними лідерами у завданнях, що потребують глибоких знань та бездоганного usability, все ще відчутний. Примітно, що Moonshot AI робить ставку на автономність в інженерних завданнях, що може стати їхнім головним козирем у ніші розробки ПЗ. Але для масового користувача K3 поки залишається нішевим, хоч і потужним, інструментом.