GLM-5.2 від Zhipu AI: 1 млн токенів контексту та нова ера відкритих мовних моделей
Китайський стартап Zhipu AI представив свою новітню флагманську мовну модель GLM-5.2, яка націлена на вирішення довгих агентних завдань та складних завдань програмування. Це рішення з відкритим кодом, що поширюється за ліцензією MIT, пропонує контекстне вікно в 1 мільйон токенів — значний крок вперед для локального розгортання.
Модель, доступна на Hugging Face, налічує 753 мільярди параметрів і підтримує генерацію тексту англійською та китайською мовами. Ключова особливість GLM-5.2 — можливість налаштування «інтенсивності міркувань», що дозволяє розробникам обирати між якістю відповіді та затримкою (латентністю).
Архітектура моделі включає інноваційні компоненти: IndexShare та оновлений шар MTP для спекулятивного декодування. IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен у 2,9 раза. Оновлення MTP, у свою чергу, збільшує довжину підтвердження (confirmation length) на 20%.
У ключових бенчмарках, таких як FrontierSWE, PostTrainBench та SWE-Marathon, GLM-5.2 перевершила всі інші моделі з відкритим кодом. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію серед open-source рішень.
Для локального розгортання модель підтримує такі фреймворки, як SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Доступні квантизації для llama.cpp, Ollama та LM Studio, що робить GLM-5.2 гнучким інструментом для розробників.
Коментар експерта: GLM-5.2 — це не просто чергове оновлення, а серйозна заявка на лідерство в сегменті відкритих моделей. 1 млн токенів контексту в поєднанні з можливістю локального розгортання та ліцензією MIT робить цю модель надзвичайно привабливою для enterprise-сектору, де контроль над даними та продуктивність критично важливі. Однак, враховуючи нещодавні скандали з «відкритістю» моделей у Китаї, спільноті варто уважно вивчити, наскільки дійсно незалежним є це рішення.