GLM-5.2 від Zhipu AI: контекст у 1 млн токенів і відкритий код для агентних завдань
Китайський стартап Zhipu AI випустив свою нову флагманську мовну модель GLM-5.2, орієнтовану на довгі агентні сценарії та завдання програмування. Модель поширюється з відкритим кодом за ліцензією MIT і підтримує локальне розгортання, що робить її доступною для широкого кола розробників.
Ключова особливість GLM-5.2 — контекстне вікно розміром в 1 млн токенів. Це дозволяє моделі обробляти та аналізувати величезні обсяги даних, включаючи цілі кодові бази або довгі діалоги, без втрати зв'язності. На Hugging Face модель вказана як генеративна для англійської та китайської мов, а її розмір становить значні 753 млрд параметрів.
Архітектура GLM-5.2 включає кілька рівнів «інтенсивності міркувань», що дає користувачеві гнучкість у виборі між якістю відповіді та затримкою. Вбудовані механізми IndexShare та оновлений шар MTP (Multi-Token Prediction) забезпечують спекулятивне декодування. IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, знижуючи кількість операцій на токен у 2,9 раза. Оновлення MTP, у свою чергу, збільшує довжину підтвердження до 20%, прискорюючи генерацію.
У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 впевнено обійшла всі інші open-source моделі. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію серед відкритих рішень.
Для локального розгортання GLM-5.2 заявлено підтримку SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Крім того, доступні квантизації для llama.cpp, Ollama та LM Studio, що спрощує інтеграцію моделі в різні інфраструктури.
Думка аналітика: Випуск GLM-5.2 — це серйозний крок вперед у сегменті open-source AI. Поєднання 1 млн токенів контексту, 753 млрд параметрів та відкритої ліцензії MIT створює потужний інструмент для розробників, особливо у сфері автоматизації та програмування. Однак варто пам'ятати, що такі гігантські моделі потребують значних обчислювальних ресурсів, і їхня реальна ефективність залежатиме від якості та релевантності навчальних даних. У довгостроковій перспективі це може підштовхнути конкуренцію серед open-source моделей, що вигідно всій спільноті.