У рамках технічного експерименту Nvidia продемонструвала вражаючий результат: точність моделі Cosmos 3 Nano на тесті з чотирма варіантами відповіді зросла з 54,41% до 93,35% менш ніж за 24 години. Ключовою особливістю стало те, що всі етапи донавчання були виконані ШІ-агентом Codex, який діяв за заздалегідь заданими інструкціями в екосистемі інструментів TAO.

Експеримент проводився на спеціалізованому датасеті Woven Traffic Safety від Woven by Toyota, який містить відеозаписи дорожніх ситуацій та питання з чотирма варіантами відповіді. Для навчання та валідації використовувалося понад 8000 прикладів.

Без додаткової адаптації модель Cosmos 3 Nano демонструвала лише 54,41% правильних відповідей. Розробники доручили агенту Codex оцінити базову продуктивність та провести тонке налаштування з використанням методу низькорангової адаптації (LoRA). Агент самостійно обрав відповідну інструкцію Cosmos-reason, проаналізував анотації датасету та виявив відсутній параметр частоти кадрів. Після виправлення конфігурації він завантажив ваги моделі, підготував налаштування та запустив навчальний контейнер.

https://youtu.be/9AQkVbx3fKA?si=6y1p3qZHRgeqzuEq

Метод LoRA, на відміну від повного донавчання, змінює не всі параметри моделі, а навчає невеликі додаткові адаптери. За розрахунками Nvidia, цей підхід потребував приблизно в сім разів менше GPU-годин, ніж повне налаштування Cosmos 3 Nano. Один прогон LoRA на восьми прискорювачах NVIDIA A100 з 80 ГБ пам'яті зайняв близько 30 хвилин, підвищивши точність до 87,14%.

На другому етапі розробники запустили TAO AutoML для автоматичного підбору гіперпараметрів: швидкості навчання, розміру пакета та параметрів LoRA. Система провела 43 паралельних випробування, і найкращий результат з байєсівською оптимізацією досяг 93,35%. Цей етап зайняв 19,5 години на кількох вузлах A100 в Oracle Cloud Infrastructure.

Важливо підкреслити, що агент Codex не просто аналізував результати — він обирав робочий процес, перевіряв дані, виправляв конфігурації, запускав контейнери та порівнював метрики. Хоча його автономність була обмежена заздалегідь підготовленими інструкціями, такий рівень автоматизації відкриває нові горизонти для масштабування тонкого налаштування ШІ-моделей.

Однак варто зазначити, що показник 93,35% відображає точність на перевірочній частині одного дослідницького датасету. Він не є мірою безпеки автономного водіння і не підтверджує здатність моделі приймати рішення в реальному часі. Це лише демонстрація ефективності автоматизованого підходу до донавчання.

Раніше дослідники Nvidia, Carnegie Mellon University та Каліфорнійського університету в Берклі представили фреймворк ENPIRE, який дозволяє ШІ-агентам для програмування покращувати політики управління роботами на реальному обладнанні.

Аналітичний коментар: Цей експеримент — важливий крок до демократизації тонкого налаштування великих моделей. Автоматизація процесів, які раніше вимагали глибоких знань і ручної праці інженерів, може значно прискорити впровадження ШІ в спеціалізовані галузі, такі як автономне водіння. Однак ключовим викликом залишається узагальнюваність таких результатів на реальні, неконтрольовані сценарії.