Корпорація Nvidia провела показовий експеримент, який демонструє новий рівень автоматизації в машинному навчанні. Використовуючи власного ІІ-агента Codex та інструментарій TAO, інженерам вдалося менш ніж за 24 години підвищити точність моделі Cosmos 3 Nano з 54,41% до вражаючих 93,35% на спеціалізованому датасеті Woven Traffic Safety від Toyota. Це не просто оптимізація — це зміна парадигми в підході до пост-тренінгу моделей.
Як проходив експеримент
Базовий Cosmos 3 Nano, без жодної адаптації, показав результат у 54,41% на тесті з чотирма варіантами відповіді. Розробники доручили агенту Codex проаналізувати модель і провести донавчання методом LoRA (Low-Rank Adaptation). Агент не просто запустив скрипт — він самостійно вибрав інструкцію Cosmos-reason, виявив відсутність параметра частоти кадрів в анотаціях датасету, виправив конфігурацію, завантажив ваги та запустив навчальний контейнер.
Перший прогон LoRA на восьми прискорювачах NVIDIA A100 (80 ГБ) зайняв лише 30 хвилин і підняв точність до 87,14%. Це вже вражаючий стрибок, але Nvidia пішла далі.
Автоматична оптимізація гіперпараметрів
Другим етапом розробники активували TAO AutoML для автоматичного підбору гіперпараметрів: швидкості навчання, розміру батча, параметрів LoRA та інших налаштувань. Система провела 43 паралельних випробування з байєсівською оптимізацією. Найкраща конфігурація дала 93,35% — і це менш ніж за 20 годин обчислень на кількох вузлах A100 в Oracle Cloud Infrastructure.
Ключова перевага методу — економія ресурсів. За розрахунками Nvidia, LoRA потребував приблизно в сім разів менше GPU-годин, ніж повне донавчання моделі. Це критично важливо для компаній, які хочуть адаптувати великі моделі без оренди цілих кластерів.
Що це означає для індустрії
Важливо розуміти контекст: показник 93,35% стосується виключно перевірочної частини дослідницького датасету Woven Traffic Safety. Це не тест на безпеку автономного водіння і не підтвердження здатності моделі приймати рішення в реальному часі. Однак сам принцип — використання ІІ-агента для автономного донавчання — відкриває нові горизонти.
Мій аналіз: ми спостерігаємо перехід від ручного тюнінгу моделей до агентно-орієнтованих пайплайнів. Codex у цьому експерименті не просто виконував команди — він аналізував дані, виправляв помилки в конфігурації та обирав оптимальні стратегії. Хоча його автономність обмежена заздалегідь підготовленими інструкціями, це перший крок до повністю автоматизованих циклів ML-розробки. У найближчі роки такі агенти стануть стандартом для пост-тренінгу, особливо в нішевих доменах, де потрібна швидка адаптація базових моделей під специфічні датасети.