GLM-5.2 від Zhipu AI: 1 мільйон токенів контексту та відкритий код для прориву в програмуванні
Китайський стартап Zhipu AI представив свою нову флагманську мовну модель GLM-5.2, яка націлена на вирішення тривалих агентних завдань та програмування. Це повністю відкрите рішення з контекстним вікном в 1 мільйон токенів, що поширюється за ліцензією MIT та підтримує локальне розгортання.
Модель, доступна на Hugging Face, налічує 753 мільярди параметрів і призначена для генерації тексту англійською та китайською мовами. Ключова особливість GLM-5.2 — гнучке налаштування «інтенсивності міркувань», що дозволяє користувачам вибирати баланс між якістю відповіді та часом затримки.
Архітектура моделі включає два важливих нововведення: механізм IndexShare та оновлений шар MTP для спекулятивного декодування. IndexShare дозволяє повторно використовувати один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен у 2,9 раза. Оновлення MTP, своєю чергою, збільшує довжину підтвердження до 20%.
Результати тестування вражають. У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 обійшла всі інші моделі з відкритим вихідним кодом. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію серед open-source рішень.
GLM-5.2 поширюється за відкритою ліцензією MIT. Для локального розгортання заявлено підтримку таких фреймворків, як SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Також доступні квантизації для llama.cpp, Ollama та LM Studio.
Думка експерта: Випуск GLM-5.2 — це серйозний крок вперед для open-source ШІ. Контекст в 1 млн токенів відкриває нові можливості для аналізу великих обсягів коду та документації, а ліцензія MIT робить модель доступною для будь-якого розробника. Особливо важливо, що Zhipu AI не просто збільшує «сиру» продуктивність, але й впроваджує механізми, що знижують обчислювальні витрати — це ключовий тренд для демократизації доступу до потужних ШІ-моделей.