GLM-5.2: Китайський стартап Zhipu AI представив модель з контекстом в 1 млн токенів та відкритим вихідним кодом
Китайський стартап Zhipu AI випустив свою флагманську мовну модель GLM-5.2, призначену для вирішення складних агентних завдань та програмування. Це рішення з відкритим кодом вражає своїм контекстним вікном в 1 мільйон токенів, що дозволяє обробляти величезні обсяги даних за один прохід. Модель поширюється за ліцензією MIT та підтримує локальне розгортання, що дає розробникам повний контроль над інфраструктурою.
Технічні характеристики та архітектура
Згідно з карткою на Hugging Face, GLM-5.2 — це модель для генерації тексту англійською та китайською мовами з колосальними 753 мільярдами параметрів. Ключова інновація — підтримка кількох рівнів «інтенсивності міркувань». Користувач може гнучко налаштовувати баланс між якістю відповіді та затримкою, обираючи оптимальний режим для конкретного завдання.
В архітектуру вбудовано два важливі компоненти: IndexShare та оновлений шар MTP для спекулятивного декодування. Розробники стверджують, що IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, що знижує кількість операцій на токен у 2.9 раза. А оновлення MTP збільшує довжину підтвердження до 20%, прискорюючи інференс.
Продуктивність та бенчмарки
У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 перевершила всі інші моделі з відкритим кодом. У стандартних тестах продуктивності програмування вона також посіла перше місце серед open-source рішень.
Доступність та розгортання
GLM-5.2 поширюється за відкритою ліцензією MIT. Для локального розгортання заявлено підтримку SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Доступні квантизації для llama.cpp, Ollama та LM Studio, що робить модель доступною для широкого кола апаратних конфігурацій.
Думка експерта: Випуск GLM-5.2 — це серйозний крок вперед для сегмента open-source ШІ. Контекст в 1 млн токенів та гнучке налаштування інтенсивності міркувань роблять її конкурентоспроможною альтернативою пропрієтарним моделям. Особливо цінно, що Zhipu AI зберігає відкриту ліцензію, стимулюючи розвиток спільноти та знижуючи бар'єри для впровадження в enterprise-секторі.