GLM-5.2 від Zhipu AI: Китайський гігант на 753 млрд параметрів із контекстом у 1 млн токенів
Китайський стартап Zhipu AI офіційно представив свою нову флагманську мовну модель — GLM-5.2. Це рішення з відкритим вихідним кодом, орієнтоване на довгі агентні завдання та програмування, вже доступне на Hugging Face. Модель має вражаюче контекстне вікно в 1 млн токенів і поширюється під ліцензією MIT, що відкриває широкі можливості для локального розгортання.
Архітектура GLM-5.2 включає 753 млрд параметрів і підтримує генерацію тексту як англійською, так і китайською мовами. Ключова особливість — можливість регулювання «інтенсивності міркувань». Це дозволяє користувачам гнучко налаштовувати баланс між якістю відповідей та затримкою, що критично важливо для реальних виробничих сценаріїв.
У модель інтегровано два інноваційні компоненти: механізм IndexShare та оновлений шар MTP для спекулятивного декодування. IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен у 2,9 раза. Оновлення MTP, своєю чергою, збільшує довжину підтвердження до 20%. Ці оптимізації роблять GLM-5.2 не лише потужною, але й економічно ефективною.
Продуктивність та бенчмарки
Результати тестування вражають. У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 обійшла всі інші моделі з відкритим вихідним кодом. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію серед open-source рішень.
GLM-5.2 доступна для локального розгортання через SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Крім того, підтримуються квантизації для llama.cpp, Ollama та LM Studio, що робить модель доступною навіть на обладнанні з обмеженими ресурсами.
Моя експертна думка: GLM-5.2 — це не просто чергова модель із великим контекстом. Це стратегічний крок Zhipu AI, спрямований на захоплення ніші агентних систем та автоматизації коду. Поєднання відкритої ліцензії MIT, гнучкого налаштування міркувань та вражаючих бенчмарків робить її серйозним конкурентом для закритих рішень. Однак варто зазначити, що 753 млрд параметрів — це виклик для інфраструктури, і реальний успіх залежатиме від того, наскільки ефективно спільнота зможе адаптувати модель під свої потреби.