Zhipu AI представляє GLM-5.2: контекст у 1 млн токенів та революція у відкритому ШІ
Китайський стартап Zhipu AI випустив свою новітню флагманську мовну модель GLM-5.2, призначену для виконання довгих агентних завдань і складного програмування. Це рішення з відкритим кодом, доступне за ліцензією MIT, пропонує контекстне вікно розміром в 1 млн токенів і підтримує локальне розгортання — що робить його особливо привабливим для розробників, які прагнуть до повного контролю над даними.
Згідно зі специфікаціями на Hugging Face, GLM-5.2 — це модель для генерації тексту англійською та китайською мовами з колосальним обсягом у 753 млрд параметрів. Така архітектура дозволяє їй обробляти складні запити з високою точністю, але ключовою інновацією тут є гнучка система «інтенсивності міркувань». Користувачі можуть обирати між якістю відповіді та затримкою, що критично для додатків реального часу — від чат-ботів до автоматизованих агентів.
Архітектура GLM-5.2 включає два принципових нововведення: IndexShare та оновлений шар MTP для спекулятивного декодування. IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен у 2,9 раза. Це пряме вирішення проблеми масштабованості для моделей з великим контекстом. MTP, своєю чергою, збільшує довжину підтвердження до 20%, прискорюючи генерацію без втрати якості.
У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 обійшла всі інші моделі з відкритим кодом. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію серед open-source рішень. Це підтверджує: Zhipu AI націлена не просто на наздоганяючий розвиток, а на створення інструменту, здатного конкурувати з пропрієтарними гігантами на кшталт GPT-4.
GLM-5.2 поширюється за відкритою ліцензією MIT, що дозволяє використовувати її в комерційних проєктах без обмежень. Для локального розгортання заявлено підтримку SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Доступні квантизації для llama.cpp, Ollama та LM Studio, що спрощує інтеграцію на звичайному обладнанні.
Мій аналіз: GLM-5.2 — це не просто чергова open-source модель, а серйозний крок до демократизації ШІ. Контекст в 1 млн токенів відкриває нові можливості для аналізу великих документів, коду та мультимодальних даних, а ліцензія MIT знижує бар'єри для впровадження. Однак 753 млрд параметрів вимагають вражаючих обчислювальних ресурсів, і тут ключову роль відіграє оптимізація через квантизацію. Якщо Zhipu AI зможе зберегти продуктивність на споживчому залізі, це змінить правила гри на ринку.