GLM-5.2 від Zhipu AI: контекстне вікно в 1 млн токенів і прорив у бенчмарках програмування
Китайський стартап Zhipu AI офіційно представив свою нову флагманську модель — GLM-5.2. Це рішення з відкритим вихідним кодом, орієнтоване на довгі агентні завдання та програмування. Ключова особливість — контекстне вікно об'ємом до 1 мільйона токенів, що дозволяє обробляти величезні масиви даних без втрати якості.
Модель налічує 753 мільярди параметрів і призначена для генерації тексту англійською та китайською мовами. Розробники підкреслюють, що GLM-5.2 поширюється за вільною ліцензією MIT, що дає можливість локального розгортання та кастомізації.
Архітектура включає кілька унікальних механізмів. Зокрема, технологія IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен у 2,9 раза. Оновлений шар MTP для спекулятивного декодування збільшує довжину підтвердження до 20%, що безпосередньо впливає на швидкість генерації.
У тестах продуктивності GLM-5.2 продемонструвала вражаючі результати. У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — модель обійшла всі інші open-source рішення. У стандартних тестах програмування вона також посіла лідируючу позицію серед відкритих моделей.
Для локального розгортання заявлена підтримка SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Доступні квантизації для llama.cpp, Ollama та LM Studio, що робить модель гнучкою для використання на різному обладнанні.
Експертна думка: GLM-5.2 — це серйозний крок вперед для open-source сегменту ШІ. Контекст в 1 млн токенів та покращена архітектура уваги роблять її конкурентоспроможною не лише в задачах програмування, але й в аналізі довгих документів, що критично важливо для корпоративних та фінансових застосунків. Однак ключовим викликом залишиться ефективне локальне розгортання моделі такого масштабу — 753 млрд параметрів потребують значних обчислювальних ресурсів.