GLM-5.2 від Zhipu AI: 1 мільйон токенів і 753 млрд параметрів — новий стандарт для відкритих моделей ШІ
Китайський стартап Zhipu AI випустив свою нову флагманську мовну модель GLM-5.2. Це рішення з відкритим вихідним кодом, орієнтоване на тривалі агентні завдання та програмування, вже доступне під ліцензією MIT. Ключова особливість — контекстне вікно розміром в 1 мільйон токенів, що дозволяє обробляти великі масиви даних без втрати зв'язності.
Модель, завантажена на Hugging Face, призначена для генерації тексту англійською та китайською мовами. Її розмір становить вражаючі 753 мільярди параметрів. GLM-5.2 пропонує кілька рівнів «інтенсивності міркувань», надаючи користувачам можливість гнучко балансувати між якістю відповіді та часом затримки.
В архітектуру вбудовано дві ключові інновації: IndexShare та оновлений шар MTP для спекулятивного декодування. IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен у 2,9 раза. Оновлення MTP, своєю чергою, збільшує довжину підтвердження до 20%.
Результати тестування говорять самі за себе. У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 перевершила всі інші моделі з відкритим вихідним кодом. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію серед open-source рішень.
Модель поширюється за відкритою ліцензією MIT, що усуває багато юридичних бар'єрів для розробників. Для локального розгортання заявлено підтримку SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Крім того, доступні квантизації для llama.cpp, Ollama та LM Studio, що робить GLM-5.2 доступною для широкого кола апаратних конфігурацій.
Мій аналіз: GLM-5.2 — це серйозний крок вперед для open-source ШІ. Контекст в 1 млн токенів та 753 млрд параметрів ставлять її на один рівень з найкращими пропрієтарними моделями, а ліцензія MIT робить її ідеальною для інтеграції в комерційні продукти. У найближчі місяці ми, ймовірно, побачимо хвилю рішень на базі цієї моделі, особливо у сфері автоматизації коду та аналізу великих текстів.