GLM-5.2 від Zhipu AI: Китайський гігант із контекстом у 1 млн токенів та відкритою ліцензією MIT
Китайський стартап Zhipu AI представив свою флагманську мовну модель GLM-5.2, орієнтовану на вирішення довгих агентних завдань та програмування. Це рішення з відкритим вихідним кодом вирізняється контекстним вікном у 1 млн токенів, ліцензією MIT та можливістю локального розгортання.
Згідно з даними на Hugging Face, модель налічує 753 млрд параметрів і призначена для генерації тексту англійською та китайською мовами. GLM-5.2 підтримує кілька рівнів «інтенсивності міркувань», що дозволяє користувачам гнучко балансувати між якістю відповіді та затримкою.
Архітектура включає інноваційні компоненти: IndexShare та оновлений шар MTP для спекулятивного декодування. Розробники стверджують, що IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, знижуючи кількість операцій на токен у 2,9 раза. Оновлення MTP, своєю чергою, збільшує довжину підтвердження до 20%.
Продуктивність на бенчмарках
У трьох ключових тестах — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 обійшла інші open-source моделі. У стандартних тестах продуктивності програмування вона також посіла лідируючу позицію серед відкритих рішень.
GLM-5.2 поширюється за відкритою ліцензією MIT. Для локального розгортання підтримуються SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Доступні квантизації для llama.cpp, Ollama та LM Studio.
Аналітика Cryptalist: Цей реліз знаменує собою значний крок у демократизації доступу до потужних ШІ-моделей. Контекст в 1 млн токенів та відкрита ліцензія MIT роблять GLM-5.2 серйозним конкурентом для пропрієтарних рішень, особливо у сфері довгих агентних завдань та програмування. Однак варто стежити за реальною продуктивністю на практиці, оскільки заявлені бенчмарки не завжди відображають повсякденні сценарії використання.