GLM-5.2 від Zhipu AI: 1 мільйон токенів контексту та архітектурні інновації для програмування
Китайський стартап Zhipu AI офіційно представив свою нову флагманську мовну модель GLM-5.2, орієнтовану на вирішення довгих агентних завдань і складних сценаріїв програмування. Рішення поширюється з відкритим вихідним кодом за ліцензією MIT, що дозволяє розробникам по всьому світу вільно використовувати та адаптувати модель, включаючи локальне розгортання.
Головною технічною особливістю GLM-5.2 є контекстне вікно розміром в 1 мільйон токенів. Згідно з даними на Hugging Face, модель налічує 753 мільярди параметрів і підтримує генерацію тексту англійською та китайською мовами. Це робить її однією з найбільших open-source моделей на ринку, здатною обробляти об'ємні документи, кодові бази та довгі діалоги без втрати якості.
Архітектурні інновації включають механізм IndexShare, який повторно використовує один індексатор на кожні чотири шари розрідженої уваги. Розробники стверджують, що це знижує кількість операцій на токен у 2,9 раза, що безпосередньо впливає на швидкість інференсу та ефективність використання обчислювальних ресурсів. Крім того, оновлений шар MTP (Multi-Token Prediction) збільшує довжину підтвердження до 20%, покращуючи якість спекулятивного декодування.
GLM-5.2 підтримує кілька рівнів «інтенсивності міркувань», дозволяючи користувачам гнучко балансувати між якістю вихідних даних і затримкою — критично важлива функція для додатків реального часу.
У тестах продуктивності модель показала вражаючі результати. У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 обійшла всі інші моделі з відкритим вихідним кодом. У стандартних тестах програмування вона також посіла лідируючі позиції, підтвердивши статус найпотужнішої open-source моделі для кодингу.
Для локального розгортання GLM-5.2 заявлено повну підтримку популярних фреймворків: SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Також доступні квантизації для llama.cpp, Ollama та LM Studio, що спрощує інтеграцію моделі в існуючі інфраструктури.
Мій експертний аналіз: GLM-5.2 — це не просто чергове оновлення, а значний крок вперед у сфері open-source AI. Поєднання 1 млн токенів контексту з архітектурними оптимізаціями (IndexShare та MTP) робить цю модель особливо привабливою для розробників, які працюють з великими кодовими базами або довгими документами. Однак варто зазначити, що Zhipu AI продовжує агресивно нарощувати параметри, що може створити додаткові бар'єри для локального розгортання на споживчому обладнанні. Тим не менш, ліцензія MIT та широка підтримка фреймворків дають спільноті потужний інструмент для експериментів та комерційного використання.