Корпорація Nvidia провела технічний експеримент, який демонструє, як автономні ІІ-агенти можуть кардинально прискорити процес донавчання великих мовних моделей. Йдеться про модель Cosmos 3 Nano, призначену для аналізу дорожніх сцен. Результати вражають: точність відповідей на тесті з чотирма варіантами вибору злетіла з 54,41% до 93,35% — і все це менш ніж за 24 години.
Ключовим виконавцем став ІІ-агент Codex, який діяв у межах інструментарію TAO від Nvidia. Агент не просто запускав скрипти, а самостійно приймав рішення: обрав спеціалізовану інструкцію Cosmos-reason, перевірив анотації датасету Woven Traffic Safety від Woven by Toyota, виявив відсутній параметр частоти кадрів, виправив конфігурацію та запустив навчальний контейнер.
На початковому етапі базова модель без адаптації показала лише 54,41% правильних відповідей. Codex застосував метод низькорангової адаптації (LoRA). На відміну від повного донавчання, LoRA навчає лише невеликі додаткові адаптери, не зачіпаючи всі параметри моделі. За розрахунками Nvidia, такий підхід потребував приблизно в сім разів менше GPU-годин, ніж повний цикл навчання.
Перший прогон LoRA на восьми прискорювачах NVIDIA A100 з 80 ГБ пам'яті зайняв близько 30 хвилин і підняв точність до 87,14%. Потім розробники дали команду на запуск TAO AutoML для підбору гіперпараметрів: швидкості навчання, розміру пакета та параметрів LoRA. Система провела 43 паралельних випробування з байєсівською оптимізацією. Найкращий результат склав 93,35%, а сам етап зайняв 19,5 години на кількох вузлах A100 в Oracle Cloud Infrastructure.
Важливо підкреслити, що Codex у цьому експерименті не був повністю автономним — він діяв за заздалегідь підготовленими інструкціями. Однак він самостійно обирав робочий процес, перевіряв дані, виправляв конфігурацію та порівнював метрики. Це вже серйозний крок до автоматизації складних ML-пайплайнів.
Варто зробити важливе застереження: показник 93,35% відображає точність на перевірочній частині одного дослідницького датасету. Він не вимірює безпеку автономного водіння і не підтверджує здатність моделі приймати рішення в реальному часі. Тим не менш, сам факт того, що ІІ-агент зміг так швидко та ефективно адаптувати модель під специфічне завдання, відкриває нові горизонти для прискорення R&D у галузі штучного інтелекту.
Думка експерта: Даний експеримент — яскрава демонстрація того, як ІІ-агенти можуть трансформувати сам процес розробки ІІ. Якщо раніше донавчання моделі під конкретний датасет вимагало днів ручної роботи інженерів, то тепер це завдання можна делегувати автономному агенту. У довгостроковій перспективі це призведе до здешевлення та демократизації доступу до тонкого налаштування великих моделей, що особливо критично для таких нішевих та вимогливих галузей, як безпека дорожнього руху або медична діагностика.