Китайський гігант Zhipu AI випускає GLM-5.2: 753 млрд параметрів і контекст у 1 млн токенів
Китайський технологічний стартап Zhipu AI офіційно представив свою нову флагманську мовну модель — GLM-5.2. Це рішення з відкритим кодом, яке поширюється за ліцензією MIT, орієнтоване на виконання тривалих агентних завдань і складне програмування. Ключова особливість — контекстне вікно розміром в 1 мільйон токенів, що дозволяє моделі обробляти величезні обсяги даних без втрати зв'язності.
Згідно з характеристиками, опублікованими на Hugging Face, GLM-5.2 налічує 753 мільярди параметрів і підтримує генерацію тексту як англійською, так і китайською мовами. Архітектура моделі включає кілька рівнів «інтенсивності міркувань», що дає користувачам гнучкість у виборі між якістю відповіді та швидкістю обробки (затримкою).
Технічні інновації та продуктивність
В основі GLM-5.2 лежать дві ключові інновації: механізм IndexShare та оновлений шар MTP для спекулятивного декодування. Розробники стверджують, що IndexShare дозволяє повторно використовувати один індексатор на кожні чотири шари розрідженої уваги, знижуючи кількість операцій на токен у 2,9 раза. Своєю чергою, покращений MTP збільшує довжину підтвердження до 20%, що критично важливо для завдань, які потребують точності та послідовності.
У бенчмарках, що вимірюють реальні здібності до програмування та вирішення агентних завдань — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 впевнено обійшла всі існуючі open-source моделі. Вона також стала найпотужнішою відкритою моделлю в стандартних тестах продуктивності програмування.
Доступність і розгортання
Модель доступна для локального розгортання та підтримує широкий спектр інструментів: SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Крім того, для користувачів, які працюють з обмеженими обчислювальними ресурсами, передбачені квантизації під llama.cpp, Ollama та LM Studio.
Мій аналіз: Випуск GLM-5.2 — це серйозний сигнал для всього ринку ШІ. Zhipu AI не просто наздоганяє західних конкурентів, а в деяких аспектах, особливо в роботі з довгим контекстом та агентними сценаріями, виходить уперед. Відкрита ліцензія MIT та підтримка локального розгортання роблять цю модель надзвичайно привабливою для розробників, які прагнуть незалежності від хмарних провайдерів. Однак варто пам'ятати, що 753 мільярди параметрів потребують значних апаратних ресурсів, що може обмежити її масове впровадження найближчим часом.