Китайський прорив: модель GLM-5.2 від Zhipu AI з контекстом у 1 млн токенів змінює правила гри
Китайський стартап Zhipu AI представив свою нову флагманську мовну модель GLM-5.2, яка орієнтована на вирішення складних агентних завдань та програмування. Це рішення з відкритим вихідним кодом вражає контекстним вікном в 1 мільйон токенів, що відкриває нові горизонти для обробки довгих послідовностей даних. Модель поширюється під ліцензією MIT та підтримує локальне розгортання, що робить її доступною для широкого кола розробників.
Згідно зі специфікацією на Hugging Face, GLM-5.2 — це модель для генерації тексту англійською та китайською мовами, що налічує 753 мільярди параметрів. Така архітектура дозволяє їй демонструвати виняткові результати в завданнях, що потребують глибокого розуміння контексту.
Однією з ключових особливостей GLM-5.2 є підтримка кількох рівнів «інтенсивності міркувань», що надає користувачам гнучкість у виборі між якістю відповіді та затримкою. В архітектуру інтегровані інновації: механізм IndexShare та оновлений шар MTP (Multi-Token Prediction) для спекулятивного декодування. Розробники стверджують, що IndexShare дозволяє повторно використовувати один індексатор на кожні чотири шари розрідженої уваги, знижуючи кількість операцій на токен у 2,9 раза. Своєю чергою, оновлення MTP збільшує довжину підтвердження до 20%, що значно прискорює генерацію.
У бенчмарках, таких як FrontierSWE, PostTrainBench та SWE-Marathon, GLM-5.2 обійшла всі інші моделі з відкритим вихідним кодом. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію, підтвердивши свій статус найпотужнішої open-source моделі на сьогоднішній день.
GLM-5.2 доступна для локального розгортання з підтримкою фреймворків SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Також доступні квантизації для llama.cpp, Ollama та LM Studio, що спрощує інтеграцію.
Мій аналіз: Випуск GLM-5.2 — це значний крок вперед для open-source AI. Контекст в 1 млн токенів та архітектурні оптимізації роблять цю модель серйозним конкурентом для пропрієтарних рішень. Однак, враховуючи масштаб параметрів, локальне розгортання потребуватиме значних обчислювальних ресурсів, що може обмежити її застосування для невеликих команд. Тим не менш, Zhipu AI задає новий стандарт для агентних AI-систем.