Новини криптоміра

Китайський стартап Zhipu AI офіційно запустив свою новітню мовну модель GLM-5.2, орієнтовану на довгі агентні завдання та програмування. Це рішення з відкритим вихідним кодом, що поширюється за ліцензією MIT, пропонує контекстне вікно об'ємом в 1 мільйон токенів і підтримує локальне розгортання.

Модель, доступна на платформі Hugging Face, призначена для генерації тексту англійською та китайською мовами і налічує 753 мільярди параметрів. Це робить її однією з найбільших open-source моделей на ринку.

Архітектура GLM-5.2 включає кілька рівнів «інтенсивності міркувань», що дозволяє користувачам обирати між якістю відповіді та затримкою. Ключові нововведення — механізм IndexShare та оновлений шар MTP (Multi-Token Prediction) для спекулятивного декодування. IndexShare повторно використовує один індексатор на кожні чотири шари розрідженої уваги, скорочуючи кількість операцій на токен у 2,9 раза. Оновлення MTP, своєю чергою, збільшує довжину підтвердження до 20%.

У трьох ключових бенчмарках — FrontierSWE, PostTrainBench та SWE-Marathon — GLM-5.2 перевершила всі інші моделі з відкритим вихідним кодом. У стандартних тестах продуктивності програмування вона також посіла лідируючі позиції серед open-source рішень.

Для локального розгортання GLM-5.2 заявлено підтримку фреймворків SGLang, vLLM, Transformers, KTransformers та Docker Model Runner. Доступні також квантизації для llama.cpp, Ollama та LM Studio, що робить модель гнучкою для використання на різному обладнанні.

Моя експертна думка: Випуск GLM-5.2 — це серйозний крок вперед для open-source AI, особливо в сегменті програмування. Контекст в 1 млн токенів відкриває нові можливості для аналізу коду та роботи з великими проєктами. Однак настільки велика модель (753 млрд параметрів) потребує значних обчислювальних ресурсів, що може обмежити її масове впровадження. Тим не менш, ліцензія MIT та підтримка локального розгортання роблять GLM-5.2 привабливою альтернативою для розробників, які прагнуть незалежності від хмарних провайдерів.