Ваш AI-агент переписав власний код — а ваш фреймворк ризиків не має на це жодної відповіді

Момент, коли правила змінилися

Ще недавно AI був інструментом, який ви спрямовували на задачу. Ви давали інструкції, він їх виконував, і межа між «що робить система» і «що вирішила людина» була достатньо чіткою, щоб її можна було перевірити, застрахувати й пояснити раді директорів. Саме ця чіткість лежала в основі кожної корпоративної AI-governance-політики, написаної за останні три роки.

Але серія публікацій від Anthropic — підкріплена внутрішніми даними, які сама компанія характеризує як попереджувальний сигнал — свідчить, що ця основа тріщить. Цифри конкретні, часові рамки короткі, а наслідки для будь-якого бізнесу, що вже запустив AI-агентів у продакшн, — не теоретичні. Про те, що ці наслідки означають для вашої відповідальності, відповідності вимогам і рішень, які керівництво має ухвалити прямо зараз, — ця стаття.

Що насправді показав Anthropic — і чому цього разу все інакше

Фраза «AI, що самовдосконалюється» роками циркулює в дослідницьких колах — зазвичай як далекий горизонт. Те, що робить останні публікації Anthropic несхожими на попередні, — це операційні дані з реального виробничого середовища, а не лабораторний уявний експеримент.

Згідно з власним опублікованим звітом Anthropic «When AI Builds Itself», Claude тепер пише понад 80 відсотків коду, що потрапляє до систем компанії — порівняно з одиницями відсотків до виходу Claude Code на початку 2025 року. Це не результат бенчмарку. Це реальна кодова база одного з провідних AI-лабораторій світу, де більшість коду написана тим самим AI, який вони розробляють.

Показники продуктивності не менш вражаючі. Інженери Anthropic тепер випускають приблизно у вісім разів більше коду за квартал, ніж у базовий період 2021–2025 років. На конкретному бенчмарку оптимізації коду Claude Opus 4 досяг приблизно триразового прискорення у травні 2025 року. До квітня 2026 року експериментальна внутрішня модель Mythos Preview вийшла на 52-кратне прискорення на тому самому завданні — тоді як досвідчений дослідник-людина, маючи пів дня, досягає максимум 4-кратного.

Є ще й вимір суджень — і це справді незручна частина. У 129 внутрішніх дослідницьких сесіях Anthropic перевіряв, як часто запропонований моделлю наступний крок у дослідницькій задачі виявлявся кращим за вибір людини. До листопада 2025 року Claude Opus 4.5 вигравав це порівняння у 51 відсотку випадків. До квітня 2026 року Mythos Preview піднявся до 64 відсотків. Розрахункова практична стеля — близько 90 відсотків, бо в багатьох випадках обидва шляхи просто рівноцінні.

Питання вже не в тому, чи може AI писати кращий код за ваших інженерів у вузькій задачі. Питання в тому, чи система, що ухвалює рішення всередині вашого бізнесу, діє в межах, які ви справді встановили, — чи в межах, які вона тихо обійшла в процесі оптимізації.

Окремо: наприкінці серпня 2026 року TechCrunch повідомив, що дослідник Anthropic Чень Юе-Хань опублікував статтю «Automated Researchers Can Reliably Mitigate Alignment Failures», де показав: AI-системи здатні покращувати показники моделі на бенчмарках вирівнювання за десятьма конкретними типами відхилень — не знижуючи при цьому загальну продуктивність. Тобто система самостійно покращує власний профіль безпеки.

Anthropic сам обережно зазначає, що повне рекурсивне самовдосконалення — коли AI переписує власні ваги без жодної участі людини — ще не настало. «Ми ще не там, і рекурсивне самовдосконалення не є неминучим», — заявила компанія. Але додала: «воно може прийти раніше, ніж більшість інституцій до цього готові».

Саме це останнє речення має хвилювати кожного керівника, чиї AI-агенти вже працюють у закупівлях, комплаєнсі, клієнтському сервісі чи будь-якому іншому критичному процесі.

Governance-розрив, про який ніхто не хоче говорити вголос

Ось структурна проблема: compliance-фреймворки, з якими зараз працюють ваші юридичні та ризик-команди, не проектувалися під цей сценарій.

Зобов'язання EU AI Act щодо моделей загального призначення із системним ризиком — включно з вимогами до adversarial-тестування та звітування про інциденти за статтею 55 — стосуються розгорнутих систем. У них немає механізму для ситуації, коли розгорнута система суттєво бере участь у вдосконаленні власного наступника. NIST AI Risk Management Framework пропонує добровільну архітектуру для виявлення та управління AI-ризиками, але не встановлює порогів можливостей і не має механізмів примусового виконання. ISO/IEC 42001, стандарт системи управління AI, так само не містить рекурсивного самовдосконалення як категорії ризику.

Cloud Security Alliance висловився прямо в аналізі за червень 2026 року: «Наслідки цього переходу для безпеки є суттєвими і значною мірою не врегульованими чинними корпоративними фреймворками безпеки».

Це не критика регуляторів за повільність. Рекурсивне самовдосконалення не було конкретною регуляторною концепцією, коли ці фреймворки узгоджувалися. Це просто структурне спостереження: розрив існує — і тепер це ваша проблема, а не майбутня.

Три конкретні прогалини, що вже сьогодні створюють ризики для вашого бізнесу

Походження коду. Якщо AI-написаний код потрапляє до ваших корпоративних систем — через агентні воркфлоу, автоматизовані тестові пайплайни або AI-асистовану розробку — чи є у вас стандарт відстеження того, які рішення ухвалила людина, а які — модель? У більшості організацій його немає. Ця прогалина стає питанням відповідальності в ту мить, коли щось іде не так і аудитор запитує, хто авторизував зміну.

Відповідальність за агентні воркфлоу. Коли AI-агент, що діє всередині вашого процесу закупівель або комплаєнсу, вчиняє дію, яка спричиняє фінансову чи регуляторну шкоду, питання про те, хто несе відповідальність, ще не вирішене законодавчо в більшості юрисдикцій. Що автономніший агент — а автономія зростає вимірювано — то складніше відповісти на це питання на вашу користь.

Дрейф можливостей. Модель, яку ви оцінили й затвердили до розгортання шість місяців тому, — це не та модель, що працює сьогодні, якщо постачальник її оновив. Дані Anthropic показують: криві можливостей рухаються швидко. Система, що пройшла ваше внутрішнє оцінювання ризиків на одному рівні можливостей, може зараз функціонувати на суттєво іншому. У більшості корпоративних AI-governance-політик немає механізму для виявлення цього дрейфу та реагування на нього.

Що означає «відповідальне масштабування» для постачальників — і що воно означає для вас

Anthropic виявився прозорішим щодо цих ризиків, ніж більшість. Його Responsible Scaling Policy (RSP), оновлена у лютому 2026 року, запроваджує рівні безпеки AI (ASL) — поступові стандарти, що вимагають суворіших заходів безпеки, red-teaming'у та контролю розгортання в міру зростання можливостей моделі. У грудні 2025 року компанія опублікувала Frontier Compliance Framework, що описує, як вона оцінює та пом'якшує ризики, включно з AI-саботажем і втратою контролю.

Головний науковий директор Anthropic Джаред Каплан включив попередження про AI-прискорене дослідження до RSP компанії ще на початку 2025 року, передбачаючи, що Claude зрештою стане здатним проводити власні експерименти. Компанія також озвучила ідею «глобального механізму координації» для сповільнення або призупинення розвитку AI, щоб дати інституціям час наздогнати.

Це разюча заява для компанії, що генерує десятки мільярдів у річному доході. Це також сигнал: люди, найближчі до цієї технології, вважають, що інституційна реакція — включно з корпоративним governance — відстає від кривої можливостей.

Якщо лабораторія, що будує модель, закликає до глобального механізму координації, а ваша внутрішня AI-governance-політика востаннє оновлювалася вісімнадцять місяців тому — відстань між цими двома позиціями і є вашим ризиком.

Для бізнесів, що використовують Claude або будь-яку іншу фронтирну модель через API чи корпоративну угоду: RSP постачальника — це не ваш RSP. Він регулює, що Anthropic буде й не буде розгортати. Він не регулює, що ваші AI-агенти будуть і не будуть робити всередині ваших систем, з вашими даними, від вашого імені.

Ця різниця має величезне значення, коли регулятор, аудитор або адвокат позивача починає ставити запитання.

Практичний реєстр ризиків для бізнесів, що запустили AI-агентів

Історія про AI, що самовдосконалюється, — це не насамперед про Скайнет. Це про криві можливостей, що рухаються швидше за governance-структури, і про конкретні способи, якими ця прогалина створює ризики для організацій, що вже зробили ставку на AI-операції.

Ось де ці ризики концентруються:

Комплаєнс і аудитні сліди

Автоматизовані комплаєнс-воркфлоу — перевірка контрактів, регуляторна звітність, моніторинг політик — спираються на припущення, що логіка, застосована сьогодні, — це та сама логіка, яку було затверджено. Якщо базову модель оновили, або якщо агентна система змінила власний підхід до задачі через ітеративну оптимізацію, це припущення може більше не відповідати дійсності. Аудитні сліди, що фіксують лише результати, але не логіку рішень, яка їх породила, — недостатні.

Закупівлі та фінансовий контроль

AI-агенти в закупівлях — ті, що генерують замовлення на купівлю, затверджують рахунки постачальників, виявляють аномалії — ухвалюють фінансові рішення у масштабі. Проблема подвійної оплати, яку WikiSkill від Google покликаний вирішити, — один із прикладів того, як збої пам'яті агентів безпосередньо перетворюються на фінансові втрати. Що здатніші й автономніші агенти, то більша поверхня для таких помилок.

Стан безпеки

Здатніша модель — це й більша поверхня атаки. AI-агент, що може аналізувати й змінювати код, — це агент, яким можна маніпулювати через prompt injection або інші adversarial-впливи, щоб він робив те, чого оператори не мали на увазі. Проблема аудиту безпеки AI-агентів — той факт, що проходження тесту безпеки не означає, що система захищена, — стає гострішою в міру зростання автономних можливостей системи.

Інтелектуальна власність і відповідальність

Якщо ваш AI-агент виробляє результат, що пізніше виявляється порушенням прав третіх сторін, або якщо AI-написаний код у ваших системах містить помилки, що завдають шкоди далі по ланцюгу, — питання відповідальності живе й не вирішене. Правовий ландшафт навколо AI-генерованого контенту та коду швидко змінюється, і вектор руху — у бік більшої відповідальності організацій-розгортачів, а не меншої.

Що починають запитувати ради директорів та інвестори

Керівники, які добре пройдуть цей період, — не ті, хто чекає на регуляторну вимогу, щоб діяти. Це ті, хто випереджає запитання: хто може зайти на засідання ради або розмову з інвестором і пояснити конкретно, що охоплює їхній AI-governance-фреймворк, де прогалини й як виглядає план їх усунення.

Це не compliance-вправа. Це сигнал лідерства. Ради директорів та інвестори дедалі чіткіше розрізняють організації, що розгорнули AI, і організації, що розгорнули AI з цілісною архітектурою ризиків. Перші — це центр витрат, що чекає на інцидент. Другі — конкурентна перевага.

Лідери, що будують цю архітектуру зараз — до того, як регуляторні фреймворки наздоженуть, до того, як гучний інцидент змусить до розмови, — будуть сприйматися як ті, хто системно осмислив проблему, яку більшість колег досі трактує як технологічне питання, а не питання управління.

І на більш безпосередньому рівні: є справжнє полегшення в тому, щоб мати чітку картину своїх ризиків. Тривога від запуску критичних процесів на системах, які ви не до кінця розумієте, — реальна, і вона накопичується з часом. Замінити цю тривогу задокументованою, аудитованою governance-позицією — точно знати, що ваші агенти можуть і не можуть робити, і чому — це не лише результат управління ризиками. Це інший спосіб роботи.

FAQ

Що таке рекурсивне самовдосконалення і чи воно вже відбулося? Рекурсивне самовдосконалення — це здатність AI-системи суттєво прискорювати або покращувати власний розвиток, зрештою проектуючи свого наступника без участі людини. Повне автономне рекурсивне самовдосконалення не підтверджено. Те, що вже з'явилося — як задокументував Anthropic — це AI-системи, що суттєво беруть участь у розробці наступних AI під людським наглядом. Це раніший, але все одно значущий поріг із реальними наслідками для безпеки та governance.

Чи захищає мій бізнес Responsible Scaling Policy Anthropic, якщо я використовую Claude? Ні. RSP Anthropic регулює, що Anthropic буде навчати й розгортати. Він не регулює, що ваші AI-агенти роблять всередині ваших систем, з вашими даними, в рамках ваших операційних рішень. Ваші governance-зобов'язання як організації-розгортача відокремлені від внутрішніх зобов'язань безпеки вашого постачальника.

Які чинні регуляторні фреймворки стосуються AI, що самовдосконалюється? Жоден — вичерпно. EU AI Act охоплює розгорнуті системи із системним ризиком, але не має механізму для пауз у процесі розробки або порогів рекурсивного самовдосконалення. NIST AI RMF є добровільним і не має механізмів примусового виконання. ISO/IEC 42001 не містить цієї категорії ризику. Governance-розрив є структурним, а не питанням інтерпретації.

Наскільки швидко насправді зростають можливості AI? Достатньо швидко, щоб це мало значення для governance-циклів. METR, незалежна організація з оцінювання AI, задокументувала, що горизонти автономного виконання завдань подвоюються приблизно кожні сім місяців. Внутрішні дані Anthropic показують: прискорення оптимізації коду зросло з 3-кратного (травень 2025) до 52-кратного (квітень 2026) менш ніж за рік. Governance-фреймворки, що не переглядаються щонайменше щорічно, майже напевно вже працюють на застарілих припущеннях.

Що бізнес має зробити прямо зараз, не чекаючи на регулювання? Три негайні дії: задокументуйте, які AI-системи працюють у яких воркфлоу і з яким рівнем автономії; встановіть стандарт відстеження походження коду, якщо AI-написаний код потрапляє до ваших систем; заплануйте перевірку дрейфу можливостей — порівняйте модель, яку ви затвердили, з тією, що працює зараз. Жодна з цих дій не потребує чекати на регуляторний мандат.

Чи актуальний цей ризик для малого бізнесу, чи лише для великих підприємств? Він актуальний для будь-якої організації, що запустила AI-агентів у значущих воркфлоу — закупівлях, комплаєнсі, клієнтських даних, фінансовому контролі. Масштаб ризику різний, але структурна governance-прогалина однакова. Менші організації можуть навіть мати більший відносний ризик, бо зазвичай мають менш формальну AI-governance-інфраструктуру від початку.

---

Дані Anthropic — це не прогноз. Це вимірювання того, що вже відбувається всередині однієї з найуважніше спостережуваних AI-лабораторій світу. Якщо Claude пише 80 відсотків власного коду Anthropic, і якщо крива можливостей рухається з тією швидкістю, яку показують цифри, — питання для вашого бізнесу не в тому, чи це важливо. Питання в тому, чи ваша поточна governance-позиція спроектована під систему, яку ви розгорнули вісімнадцять місяців тому, — чи під ту, що працює прямо зараз.

Варто подумати про це до наступного засідання ради директорів — або до наступного разу, коли AI-агент всередині вашої організації ухвалить рішення, якого ніхто явно не авторизував.