Чому AI-агент без правильного харнесу коштує вам грошей: урок від Nvidia

Модель — це не продукт. Продукт — це архітектура навколо неї

Більшість компаній, які купують AI-агентів, роблять одну й ту саму помилку: вони зациклюються на виборі моделі — GPT чи Claude, відкрита чи пропрієтарна — тоді як реальний розрив у продуктивності ховається там, куди вони навіть не дивляться. Модель — це двигун. Але двигун, прикручений до зламаного шасі, гонок не виграє. Він просто спалює пальне.

Дослідницька команда Nvidia нещодавно опублікувала результати, які змушують переосмислити підхід до розгортання AI у будь-якому серйозному бізнесі. Цифри красномовні, механізм добре задокументований, а бізнес-наслідки — прямі. Далі — детально про те, що сталося, чому це б'є по вашому бюджету і що варто змінити вже наступного кварталу.

Що насправді довела Nvidia — і чому це приголомшило галузь

У серпні 2026 року дослідницька команда Nvidia опублікувала результати проєкту Agentic Variation Operators (AVO) — архітектури агента загального призначення для тривалих багатокрокових завдань. Її тестували на ARC-AGI-3 — надскладному бенчмарку з 2D-головоломками без жодних інструкцій, де агент мусить самостійно вивести правила і перемогти.

Результат: 100%. Ідеальний бал.

Саме по собі це вражає. Але переломним моментом стала контрольна умова. Без кастомного харнесу та сама базова модель — Claude Opus 5, яка вже була лідером у «сирому» бенчмарку — набрала 30%. Та сама модель. Ті самі обчислювальні ресурси. Абсолютно різний результат.

Змінна — не AI. Змінна — обгортка навколо нього.

За словами самої Nvidia, харнес — це «архітектура навколо моделі»: шар, який визначає, як модель отримує контекст, використовує інструменти, зберігає стан, реагує на зворотний зв'язок, відновлюється після збоїв і утримує прогрес у тривалих завданнях. Дослідження Nvidia також підтвердило: дизайн харнесу сам по собі може давати двозначні коливання в результатах бенчмарків і суттєво впливати на вартість токенів — при тій самій базовій моделі.

Останнє варто перечитати ще раз: та сама модель, різна вартість токенів — залежно виключно від того, як побудований харнес.

Для бізнесу, який запускає AI-агентів у будь-якому реальному масштабі, це не академічна ремарка. Це рядок у бюджеті.

Харнес змінює не лише те, що агент може робити. Він змінює, скільки коштує його робота — і чи взагалі він доводить завдання до кінця.

Харнес: що це таке і що він контролює

Харнес — це програмна обгортка навколо AI-моделі: інструменти, управління пам'яттю і правила, які перетворюють «сиру» модель на щось здатне діяти автономно. Уявіть модель як мозок, а харнес — як тіло, броню і операційний регламент, що перетворює загальний текстовий предиктор на надійного виконавця.

Фреймворк NOOA (Labs Object-Oriented Agents) від Nvidia — відкритий дослідницький прев'ю, побудований на цих висновках, — виділяє шість конкретних можливостей, які визначають продуктивність агента на рівні харнесу:

• Типізовані вхід/вихід — агентські виклики мають типізовані аргументи й валідовані значення, а не вільний текст, що усуває цілий клас помилок на наступних кроках
• Передача за посиланням — модель працює з живими Python-об'єктами з обмеженим прев'ю замість серіалізованих дампів даних, тримаючи контекст компактним і точним
• Код як дія — модель діє, пишучи Python з керуванням потоком і вбудованими викликами методів, а не генеруючи текст, який окремий шар потім інтерпретує
• Програмована інженерія циклів — цикли оркестрації — це звичайний код, який можуть писати і розробники, і сама модель
• Явний стан об'єкта — стійкий типізований стан живе на об'єкті агента, а не лише в історії розмови, тому між кроками нічого не губиться
• Компонент-супервізор — наглядовий шар, який відстежує прогрес, виявляє збої і перенаправляє агента до того, як завдання зійде з рейок

Саме останній елемент — супервізор — Nvidia назвала ключовим фактором ідеального балу AVO на ARC-AGI-3. Без нього навіть фронтирна модель блукає.

Чому більшість бізнес-розгортань це пропускає

Типове корпоративне розгортання AI виглядає так: команда обирає модель, пише системний промпт, підключає кілька API — і називає це агентом. Харнес, якщо він взагалі є, — імпровізований. Управління пам'яттю — другорядне. Стан зберігається в історії розмови, яку обрізає контекстне вікно. Немає логіки відновлення після несподіваного виводу. А цикл оркестрації — це while-loop, написаний за один вечір.

Це не гіпотетичний сценарій. Саме так побудована більшість «AI-агентів», які зараз працюють у продакшені в компаніях будь-якого розміру. І саме це пояснює, чому вони так часто недопрацьовують, галюцинують на багатокрокових завданнях або просто зависають — генеруючи витрати на токени без жодного результату.

ROI-математика, яку ніхто не рахує

Ось бізнес-переклад досліджень Nvidia. Якщо дизайн харнесу створює «суттєві відмінності у вартості токенів» при тій самій моделі — кожен долар, витрачений на інференс, частково є податком на погану архітектуру.

Витрати на токени накопичуються швидко. Агент, який обробляє погодження закупівель, перевірки відповідності або ескалації клієнтів, може виконувати сотні або тисячі інференс-викликів на день. Погано спроєктований харнес, що змушує модель перечитувати повну історію розмови на кожному кроці замість використання структурованого стану, легко подвоює або потроює споживання токенів для того самого завдання. У масштабі це вже не неефективність. Це структурна діра в бюджеті.

Окрім вартості токенів — є проблема частоти збоїв. Агент без логіки відновлення не зупиняється акуратно: він або зависає в циклі, або зупиняється, або видає впевнено звучачу неправильну відповідь. У процесі закупівель зупинений агент означає, що людина підхоплює завдання вручну. У процесі відповідності — впевнена неправильна відповідь є юридичним ризиком. Жоден із цих результатів не з'являється в дашборді вашого AI-вендора, але обидва з'являються в операційних витратах.

Реальний ROI-розрахунок для AI-агента — це не: вартість підписки на модель ÷ автоматизовані завдання. Це: (правильно виконані завдання × цінність завдання) − (вартість токенів + вартість відновлення після збоїв + вартість ручного втручання). Харнес визначає кожну змінну в цьому рівнянні, крім першої.

Для практичного фреймворку розрахунку того, коли AI-агент реально окупається порівняно з наймом, варто опрацювати аналіз у статті Як розрахувати точку окупності AI-агента замість найму нового співробітника — до наступного рішення про розгортання.

Агент, який правильно виконує 60% завдань і потребує людського втручання в решті випадків — це не AI-агент. Це дорога система сортування з мовною моделлю на вході.

Як виглядає харнес виробничого рівня на практиці

Система AVO від Nvidia безперервно працювала сім днів над завданням оптимізації ядра уваги, дослідила понад 500 напрямків оптимізації і створила 40 зафіксованих версій ядра — зрештою перевершивши усталені GPU-бібліотеки на системах NVIDIA DGX B200. Це не демо. Це автономна система виробничого рівня, що діє в справді тривалому горизонті.

Архітектура, яка це уможливила, має прямі паралелі в бізнес-контексті.

Пам'ять, яка не протікає

У бізнес-агента, що веде багатоденні цикли закупівель або перевірки відповідності, аналог «стану в історії розмови» — це агент, який забуває, що він погодив учора. Правильно спроєктований харнес підтримує стійкий типізований стан: структуровані записи про те, що вирішено, що перевірено, що очікує — і вони зберігаються між сесіями, не обрізаючись при заповненні контекстного вікна.

Логіка відновлення, яка запобігає каскадним збоям

Архітектура AVO від Nvidia включає явні механізми для «реагування на зворотний зв'язок, відновлення після збоїв і підтримки прогресу в тривалих завданнях». У бізнес-контексті це означає: коли API-виклик не вдається, агент повторює спробу з відступом, а не галюцинує відповідь. Коли робочий процес погодження натрапляє на граничний випадок, агент ескалює до людини, а не вгадує. Коли крок парсингу документа повертає несподіваний формат, агент адаптується, а не падає.

Це не екзотичні функції. Це різниця між агентом, якому можна довірити реальний процес, і тим, за яким треба постійно наглядати.

Шар супервізора

Компонент-супервізор в AVO — це окремий процес, який відстежує прогрес агента і втручається, коли виявляє відхилення або збій. Для бізнес-розгортань це прямо відповідає журналам аудиту, тригерам ескалації та контрольним точкам відповідності. Саме це дозволяє надати агенту справжню автономію, не втрачаючи видимості того, що він робить.

Середовище виконання OpenShell від Nvidia йде далі: воно накладає обмеження на середовище агента на рівні інфраструктури — тобто агент не може їх обійти, навіть якщо скомпрометований. Контроль на основі політик над файлами, мережами, обліковими даними та інструментами — реалізований поза агентом, а не всередині нього. Для бізнесу, що працює з чутливими даними або регульованими процесами, ця відмінність принципова. Безпека архітектури AI-агентів заслуговує окремого аудиту до будь-якого виробничого розгортання.

Пастка вендора: чому «просто використовуйте нашу платформу» — не відповідь

Більшість AI-платформ продають вам модель. Деякі — модель плюс базовий шар оркестрації. Дуже мало хто дає реальний контроль над харнесом: архітектурою пам'яті, логікою відновлення, шаром супервізора, управлінням станом.

Це створює конкретну пастку для бізнесу: ви купуєте платформу, розгортаєте агента, спостерігаєте за недостатньою продуктивністю і робите висновок, що AI-агенти «ще не готові» або що потрібна потужніша модель. Тоді ви оновлюєте модель. Продуктивність трохи зростає. Витрати суттєво зростають. Базова архітектурна проблема залишається незмінною.

Мікросервіси NIM від Nvidia і блюпринти NemoClaw представляють інший підхід — де архітектура розгортання є першокласним пріоритетом, а не другорядним питанням. NIM надає готові оптимізовані мікросервіси інференсу, які розгортаються за хвилини зі стандартними API, тоді як NemoClaw пропонує відкриті блюпринти для автономних агентів з контролями безпеки, спостережуваності та управління на рівні інфраструктури. Суть не в тому, щоб використовувати саме стек Nvidia — а в тому, щоб розуміти: стек має таке ж значення, як і модель.

Оцінюючи будь-яку платформу чи вендора AI-агентів, питання, які реально прогнозують ROI, — не про бенчмарки моделей. Вони про архітектуру:

• Як агент зберігає стан між кроками багатокрокових завдань?
• Що відбувається при збої кроку — повторна спроба, ескалація чи галюцинація?
• Де живе логіка супервізора і хто її контролює?
• Як управляється споживання токенів у тривалих завданнях?
• Чи можна перевірити й проаудитувати, що агент робив і чому?

Якщо вендор не може чітко відповісти на ці питання — ви купуєте модель з тонкою обгорткою, яку називають агентом.

Для команд, які думають про структуру AI-бюджетів і вимірювання реальних результатів, фреймворк у статті Бюджет на ШІ не скорочують через провал технології — його скорочують через провал вимірювання закриває саме цей розрив між вартістю розгортання і вимірюваним результатом.

Шість питань для аудиту вашої поточної архітектури AI-агента

До наступного розгортання — або до продовження контракту з поточним AI-вендором — перевірте своїх агентів за цим діагностичним списком. Це займе небагато часу, а те, що ви знайдете, або підтвердить, що ви на правильному шляху, або покаже точно, де витікають гроші.

1. Де ваш агент зберігає стан між кроками? Якщо відповідь — «в історії розмови», у вас є проблема обрізання, яка чекає свого часу на будь-якому завданні довшому за кілька обмінів.

2. Яка поведінка вашого агента при збої? Перевірте навмисно: дайте йому деформований вхід, невдалий API-виклик, неоднозначну інструкцію. Якщо він зависає або видає впевнено неправильну відповідь — логіки відновлення немає.

3. Чи є у вас шар супервізора? Не людський рецензент після факту — автоматизований механізм нагляду, який відстежує прогрес агента в реальному часі і може втрутитися до того, як завдання зійде з рейок.

4. Чи можете ви проаудитувати ланцюжок рішень агента? Для будь-якого регульованого процесу — закупівлі, відповідності, HR, фінансів — потрібен структурований запис того, що агент вирішив і чому. Логи розмов не рахуються.

5. Як ваш агент справляється з тривалими завданнями? Завдання, що тривають години, дні або кілька сесій, — саме там якість харнесу відокремлює функціональних агентів від дорогих іграшок. Якщо агент не може надійно завершити 20-кроковий робочий процес без людського втручання — харнес є вузьким місцем.

6. Хто контролює конфігурацію харнесу? Якщо відповідь — «вендор», у вас обмежені можливості оптимізувати під свої конкретні робочі процеси, структуру витрат або вимоги відповідності. Контроль над харнесом — це операційний контроль.

Ефект накопичення від правильного підходу

Є версія, де все виходить добре. Бізнес інвестує в правильну архітектуру харнесу — структурований стан, логіку відновлення, шар супервізора, типізовані інтерфейси — і розгортає агентів у процеси закупівель, відповідності та погоджень. Витрати на токени падають, бо агент не перечитує повну історію на кожному виклику. Частота збоїв падає, бо логіка відновлення перехоплює граничні випадки до ескалації. Частота ручного втручання падає, бо агент справді завершує завдання правильно.

Результат — не просто скорочення витрат. Це те, чого насправді хочуть керівники: процеси, що працюють без постійного нагляду, рішення, які можна відстежити й проаудитувати, і система, що масштабується без пропорційного зростання штату. Саме так виглядає реальний операційний контроль — не дашборд із зеленими метриками, а справжній спокій від того, що критичні процеси працюють надійно, поки ви зосереджені на рішеннях, які справді потребують людського судження.

А коли рада директорів запитає, як ви управляєте AI-ризиками, поки конкуренти досі запускають чатботів у костюмах агентів, — відповідь буде: архітектура. Не назва моделі.

---

Часті запитання

Що таке харнес AI-агента? Харнес — це програмна архітектура навколо AI-моделі: шар, який керує тим, як модель отримує контекст, використовує інструменти, зберігає стан, відновлюється після збоїв і підтримує прогрес у багатокрокових завданнях. Це різниця між «сирою» мовною моделлю і надійним автономним агентом. Без добре спроєктованого харнесу навіть найпотужніша модель недопрацьовуватиме в реальних бізнес-процесах.

Наскільки дизайн харнесу реально впливає на продуктивність? За даними досліджень Nvidia, дизайн харнесу сам по собі може давати двозначні коливання в результатах бенчмарків і суттєво впливати на вартість токенів при тій самій базовій моделі. Система AVO підняла Claude Opus 5 з 30% до 100% на бенчмарку ARC-AGI-3 виключно через архітектуру харнесу — без жодної зміни моделі.

Чи означає це, що мені варто рідше оновлювати моделі? Так, у більшості випадків. Бізнес, який гонитися за оновленнями моделей, не вирішуючи проблему харнесу, розв'язує не ту задачу. Добре спроєктований харнес на моделі середнього рівня, як правило, перевершить погано спроєктований харнес на фронтирній моделі — і коштуватиме значно менше в роботі. Спочатку проаудитуйте архітектуру, потім думайте про оновлення моделі.

Який найпоширеніший збій харнесу в бізнес-розгортаннях? Використання історії розмови як основного механізму управління станом. Для коротких взаємодій це працює, але ламається на багатокрокових тривалих завданнях — а саме там AI-агенти дають найбільшу бізнес-цінність. Коли контекстне вікно заповнюється, агент втрачає ранній контекст, що призводить до непослідовних рішень і провалів завдань.

Як зрозуміти, чи є у мого поточного AI-агента нормальний харнес? Запустіть навмисний тест на збій: дайте деформований вхід, невдалий API-виклик або завдання, що охоплює кілька сесій. Якщо агент зависає, зациклюється або видає впевнено неправильну відповідь — адекватної логіки відновлення немає. Також перевірте, чи можете ви отримати структурований журнал аудиту рішень агента — якщо ні, харнес не побудований для виробничого використання.

Це актуально лише для великих підприємств зі складними розгортаннями? Ні. Проблема харнесу стосується бізнесу будь-якого розміру. Невелика компанія, що запускає AI-агента для обробки клієнтських запитів або рахунків-фактур, стикається з тими самими режимами збоїв, що й корпорація — просто в меншому обсязі. Вартість поганого дизайну харнесу зростає разом із використанням, тому чим раніше ви це вирішите, тим менше заплатите за витрачені токени і ручні виправлення.

---

Розрив між AI-агентом, який вражає на демо, і тим, який надійно обробляє ваші погодження закупівель, перевірки відповідності або ескалації клієнтів, — це не розрив у моделі. Це розрив в архітектурі. Дослідження Nvidia зробили це конкретним у цифрах, з якими важко сперечатися: та сама модель, ті самі ресурси, 30% проти 100% — виключно на силі харнесу.

Бізнес, який розуміє це зараз, будуватиме агентів, що накопичують цінність з часом. Ті, хто не розуміє, продовжуватимуть оновлювати моделі, дивуватися, чому ROI так і не матеріалізується, і платити структурний податок на кожен інференс-виклик.

Якщо хочете оцінити поточну архітектуру вашого AI-агента і знайти точно, де прогалини в харнесі коштують вам грошей, — запишіться на 15-хвилинну консультацію: ми зіставимо її з фреймворком вище і дамо конкретну відправну точку.