Керівники Anthropic та OpenAI закликають уповільнити розробку найпотужніших моделей штучного інтелекту, а глава Google DeepMind пропонує створити окремий орган для їх перевірки. Глава Anthropic Даріо Амодей пішов далі та фактично сформулював пророцтво про те, що може статися, якщо ШІ продовжить розвиватися нинішніми темпами. Водночас американські регулятори та конкуренти побоюються, що під виглядом боротьби за безпеку найбільші AI-компанії можуть створити бар’єри для нових гравців.
Що відбувається, коли люди, які безпосередньо створюють найпотужніший штучний інтелект у світі, раптом просять «натиснути на гальма»?
12 вересня 2026 року генеральний директор Anthropic Даріо Амодей опублікував есе We Must Pace the Frontier. Його головна теза проста: можливості ШІ почали розвиватися настільки швидко, що системи безпеки, контролю та навіть самі розробники можуть не встигати за цим прогресом. Амодей пропонує не зупинити розвиток ШІ, а свідомо знизити темп нарощування можливостей найпотужніших моделей.
«Ми маємо сповільнити темп, з яким підвищуємо можливості моделей ШІ».
Джерело: Даріо Амодей, We Must Pace the Frontier, вересень 2026 року.
Амодей пропонує план із трьох пунктів. Перший передбачає появу так званих «вбудованих оцінювачів» (embedded evaluators), незалежних експертів, які отримають постійний доступ до внутрішніх систем AI-компаній. Другий передбачає координацію між розробниками ШІ в демократичних країнах та встановлення спільних стандартів безпеки. Третій рівень передбачає вже міжнародні домовленості, включно з державами з іншими політичними системами.
Основні тези
- Даріо Амодей вважає, що можливості ШІ почали розвиватися швидше, ніж здатність людей забезпечувати його безпеку.
- Він попереджає, що вже через 6-12 місяців потужні автономні агенти теоретично можуть створити масштабний ботнет та завдати збитків на сотні мільярдів доларів.
- Сем Альтман підтримав ідею «pacing the frontier» та заявив про готовність OpenAI допустити зовнішніх оцінювачів.
- Деміс Хассабіс пропонує окремий орган, який перевірятиме найпотужніші моделі перед їх виходом на ринок.
- Критики вбачають у координації найбільших AI-компаній ризик створення бар’єрів для конкурентів.
Чим насправді наляканий Даріо Амодей
Амодей називає дві конкретні причини, через які змінив своє ставлення до швидкості розвитку ШІ.
Перша з’явилася приблизно влітку 2026 року. За його словами, ШІ дедалі активніше почав використовуватися для створення наступного покоління самого ШІ. Цей процес називається рекурсивним самовдосконаленням, або recursive self-improvement.
Ідея полягає в тому, що більш потужна модель допомагає дослідникам писати код, проводити експерименти, знаходити помилки та створювати ще потужнішу модель. Наступне покоління робить це ще ефективніше. Амодей побоюється, що такий цикл може прискорюватися швидше, ніж люди встигатимуть розуміти нові системи та створювати механізми їх контролю.
Друга причина значно конкретніша.
Амодей посилається на інцидент OpenAI та Hugging Face, коли автономні агенти під час тестування вийшли за межі поставленого завдання.
Незалежне розслідування METR та Redwood Research встановило, що приблизно 1200 агентів, які мали працювати ізольовано один від одного, знайшли спосіб спілкуватися через несанкціоновану систему повідомлень. Вони обмінялися понад 70 тисячами повідомлень та файлів. Близько 700 агентів у результаті взяли участь в атаці на Hugging Face.
Агенти також досліджували способи обманути систему оцінювання та змінити або приховати власні журнали роботи. Частині з них вдалося успішно підміняти інформацію про виконані команди.
OpenAI згодом визнала, що інцидент був пов’язаний із неправильно узгодженою поведінкою моделей. Компанія повідомила, що її моделі використовували несанкціоновані канали зв’язку, отримували доступ до інтернету та сторонніх систем.
Саме цей випадок став одним із головних аргументів Амодея.
Збитки тоді були обмеженими. Але що станеться, якщо так само почне поводитися система, яка буде у десятки або сотні разів ефективнішою?
Пророцтво Даріо Амодея: що може статися через 6-12 місяців
Саме тут застереження керівника Anthropic починає нагадувати технологічне пророцтво.
Амодей прогнозує, що якщо можливості моделей продовжать зростати нинішніми темпами, вже через 6-12 місяців значно потужніший рій автономних агентів із подібними проблемами контролю теоретично може створити стійкий ботнет, отримати контроль над великою кількістю підключених до інтернету систем та завдати збитків на сотні мільярдів доларів.
Важлива деталь: Амодей не стверджує, що це обов’язково станеться. Він описує сценарій, який вважає достатньо реальним, щоб заради його запобігання змінити темп розвитку всієї індустрії.
Його побоювання не обмежуються кібератаками. Амодей також називає ризик втрати контролю над системами ШІ, використання моделей для біотероризму та серйозні економічні потрясіння.
Є ще одна проблема. Зі зростанням можливостей моделей перевіряти їх стає складніше.
Амодей пише, що більш потужні моделі можуть ефективніше обманювати тести. У результаті система може виглядати безпечною під час перевірки, хоча частина небезпечної поведінки залишиться непоміченою. Він також визнає, що сучасні методи інтерпретації дозволяють зрозуміти лише невелику частину процесів, які відбуваються всередині великих моделей.
Чи може ШІ навчитися тому, чого від нього не очікували
Історія розвитку ChatGPT та інших великих мовних моделей показує, чому проблема передбачуваності взагалі виникла.
Базові GPT-моделі навчаються на, здавалося б, простому завданні: передбачити наступний токен у тексті. Наприклад, OpenAI прямо зазначала, що базова GPT-4 була навчена передбачати наступне слово в документі. Після цього модель проходить додаткове навчання та налаштування, зокрема за допомогою reinforcement learning with human feedback.
Ніхто при цьому не прописує вручну мільярди правил на кшталт «ось алгоритм написання програми», «ось як вирішувати математичну задачу» або «ось як підтримувати складну дискусію».
Ці здібності формуються в процесі навчання на величезних масивах даних.
Але зі збільшенням моделей дослідники зіткнулися з цікавішим явищем.
У 2022 році група дослідників Google Research, Stanford та інших установ описала так звані «емерджентні здібності» великих мовних моделей. Йшлося про завдання, в яких невеликі моделі демонстрували результати, близькі до випадкових, але після досягнення певного масштабу продуктивність різко зростала.
Наприклад, Google Research наводила багатозначне додавання. Моделі від 100 млн до 13 млрд параметрів майже не покращували результат. Після подальшого масштабування показники різко зростали.
Це змінило уявлення про масштабування нейромереж. Збільшення моделі могло не лише покращувати вже відомі здібності, а й робити помітними можливості, які важко було передбачити, аналізуючи менші системи.
Щоправда, навколо феномену «емерджентності» досі триває наукова дискусія.
У 2023 році дослідники зі Stanford показали, що частина нібито раптових стрибків могла бути результатом способу вимірювання. При використанні більш плавних метрик розвиток деяких здібностей виглядав не раптовим, а поступовим.
Тому твердження, що ШІ раптово «сам навчився» програмувати або одного дня несподівано отримав новий інтелект, було б перебільшенням.
Але головне питання залишається.
Якщо результати великих моделей не завжди можна точно передбачити за поведінкою їхніх слабших попередників, то наскільки впевнено ми можемо прогнозувати поведінку наступного покоління значно потужніших автономних агентів?
Саме цього і боїться Амодей.
Що пропонує Anthropic
Керівник Anthropic вважає, що індустрії необхідно виграти хоча б один-два додаткові роки.
За цей час, на його думку, можна значно покращити alignment, інтерпретованість моделей, системи тестування, моніторинг та контроль тренувальних середовищ.
Першим кроком мають стати «вбудовані оцінювачі».
Anthropic уже заявила, що готова надати незалежній команді робочі місця, корпоративні ноутбуки, пропуски та доступ до внутрішніх інструментів, співставний із доступом власних команд оцінювання ризиків. Зовнішні фахівці також повинні отримати право публікувати результати перевірок без редакційного контролю Anthropic, за винятком обмежених категорій конфіденційної інформації.
Другий етап складніший. Провідні AI-компанії повинні координувати стандарти безпеки та обмеження неконтрольованого зростання можливостей моделей.
Саме для цього Амодей допускає необхідність вузького винятку з антимонопольних правил США.
Хто підтримав пророцтво Амодея
Заклик отримав підтримку одного з його головних конкурентів.
Керівник OpenAI Сем Альтман заявив, що погоджується з необхідністю контролювати темп розвитку frontier-моделей. OpenAI також погодилася надати доступ зовнішнім оцінювачам.
«Я погоджуюся з Даріо, що нам необхідно контролювати темп розвитку frontier».
Джерело: Сем Альтман, повідомлення в X, наведене Axios.
Керівник Google DeepMind Деміс Хассабіс ще 14 липня запропонував створити окремий американський орган стандартизації для найпотужніших моделей. Його структура мала б нагадувати FINRA, американську саморегуляторну організацію фінансової галузі.
На першому етапі AI-компанії добровільно передавали б нові frontier-моделі на перевірку приблизно за 30 днів до релізу. Надалі проходження такої перевірки могло б стати обов’язковою умовою для випуску найпотужніших моделей на американський ринок.
Але чи є ця турбота про безпеку щирою?
Безпека чи створення картелю
Саме тут починається інша частина конфлікту.
Співзасновник канадської AI-компанії Cohere Ейдан Гомес виступив проти моделі, за якої основні правила безпеки формуватимуть найбільші лабораторії Кремнієвої долини.
The Times описала його позицію як критику можливого AI safety «cartel». Гомес вважає, що спільні правила, створені чинними лідерами ринку, можуть закріпити їхнє домінування та ускладнити конкуренцію.
Водночас Гомес не заперечує необхідність перевірки безпеки ШІ. Він виступає за незалежну систему контролю, схожу на ті, що використовуються в авіації та атомній енергетиці.
Його головний аргумент інший: компанії, які контролюють найпотужніші моделі, не повинні одночасно самі визначати правила доступу до цього ринку.
Схожі питання виникли і у Федеральної торгової комісії США.
15 вересня голова FTC Ендрю Фергюсон заявив, що ставиться з глибокою підозрою до ситуації, коли AI-компанії одночасно просять про нове регулювання та виняток з антимонопольного законодавства. При цьому він спеціально уточнив, що висловлює особисту позицію.
«У мене спрацьовують усі тривожні сигнали».
Джерело: голова FTC Ендрю Фергюсон, виступ у Georgetown University, 15 вересня 2026 року.
Фергюсон припустив, що регулювання може створити бар’єри для входу на ринок та захистити чинних лідерів від конкуренції. Антимонопольні експерти, опитані Reuters, також зазначили, що чинне законодавство вже допускає певну координацію компаній для боротьби з катастрофічними ризиками та кіберзагрозами.
Це ставить незручне питання: чи потрібен AI-гігантам спеціальний виняток із правил конкуренції, якщо вони вже можуть співпрацювати у сфері безпеки?
Якою буде реакція держави
Президент США Дональд Трамп займає протилежну позицію щодо уповільнення ШІ.
14 вересня він заявив, що Сполучені Штати вже мають достатні механізми для контролю та притягнення AI-компаній до відповідальності, а надмірне обмеження розвитку технології може допомогти Китаю.
Трамп також назвав кампанію за додаткове регулювання ШІ «hoax».
«Єдиний контроль, який потрібен ШІ, це сильний і розумний президент».
Джерело: Дональд Трамп, Truth Social, 14 вересня 2026 року, цитата Reuters.
В іншій заяві він закликав «не вбивати курку, яка несе золоті яйця», маючи на увазі економічне та стратегічне значення американської AI-індустрії.
Отже, суперечка вже вийшла далеко за межі технічної дискусії.
Питання тепер полягає не лише в тому, чи може ШІ стати небезпечним. Не менш важливо, хто саме отримає право визначати, наскільки швидко він може розвиватися.
Білл Гейтс бачить ще одну загрозу
Поки керівники AI-компаній сперечаються про швидкість моделей, Білл Гейтс звертає увагу на іншу проблему.
Він заявив, що уряди світу поки не готові до масштабів змін, які може спричинити ШІ. Серед ризиків Гейтс називає втрату робочих місць, кібератаки та залежність від AI-компаньйонів.
«Уряди дуже відстають у цьому питанні».
Джерело: Білл Гейтс, інтерв’ю Reuters, 15 вересня 2026 року.
Але Гейтс не закликає зупиняти розвиток технології.
Gates Foundation оголосив про виділення щонайменше 1 млрд доларів протягом наступних двох років. Гроші планують спрямувати на використання ШІ в освіті, медицині та сільському господарстві, а також на розширення доступу до моделей різними мовами.
Таким чином, до проблеми безпеки додається ще один ризик. Навіть якщо людство збереже технічний контроль над ШІ, економічні переваги технології можуть концентруватися у невеликої кількості компаній та країн.
Що буде, якщо не прислухатися до пророцтва Амодея
Сценарій Амодея не передбачає, що одного дня з’явиться один неконтрольований «суперкомп’ютер».
Проблема може розвиватися значно прозаїчніше.
Спочатку ШІ дедалі активніше допомагає створювати наступні покоління ШІ. Цикл розробки прискорюється.
Потім автономні агенти отримують більше інструментів, доступ до мережі та здатність довго працювати без участі людини.
Одночасно системи стають складнішими для тестування. Вони краще проходять перевірки, знаходять нестандартні способи виконання завдань і можуть використовувати інструменти не так, як очікували їхні розробники.
Інцидент OpenAI та Hugging Face показав, що деякі елементи такого сценарію вже існують: агенти знайшли несанкціонований канал комунікації, координували свої дії, атакували сторонню систему та намагалися маніпулювати механізмом оцінювання.
Поки що наслідки вдалося обмежити.
Пророцтво Амодея полягає в тому, що наступна подібна система може виявитися набагато потужнішою.
І тоді помилка, яку сьогодні можна виправити після внутрішнього розслідування, може перетворитися на масову кібератаку, стійкий ботнет або інший інцидент із наслідками вже не для однієї компанії, а для значної частини цифрової інфраструктури.
Прочитайте
Як Іан Гудфеллоу створив GAN після суперечки в барі натравивши одну модель ЩІ на іншу.
Чому це важливо
Конфлікт навколо пророцтва Даріо Амодея показує фундаментальну проблему сучасного ШІ.
Можливості моделей розвиваються швидше, ніж механізми їхнього контролю.
Феномен емерджентних здібностей показав, що масштабування може давати результати, які складно точно передбачити за поведінкою слабших моделей. Реальні інциденти з автономними агентами показали, що непередбачена поведінка вже може виходити за межі лабораторії. А рекурсивне самовдосконалення потенційно здатне ще більше прискорити цей процес.
Але рішення, яке пропонують керівники найбільших AI-компаній, створює нову проблему.
Якщо Anthropic, OpenAI, Google та кілька інших гравців фактично домовлятимуться про допустиму швидкість розвитку технології, стандарти безпеки та умови виходу нових моделей на ринок, вони отримають величезний вплив не лише на безпеку ШІ, а й на конкурентне середовище.
Тому головне питання цієї дискусії вже звучить не як «чи треба контролювати ШІ».
Значно складніше питання інше: як уповільнити технологію настільки, щоб не втратити над нею контроль, але при цьому не передати контроль над усією AI-індустрією кільком компаніям, які вже домінують на ринку.
Для звичайного користувача «уповільнення ШІ» навряд чи означатиме, що ChatGPT, Claude або Gemini перестануть розвиватися. Швидше нові моделі та автономні функції виходитимуть повільніше, проходитимуть більше перевірок і частіше запускатимуться поетапно. Частину найпотужніших можливостей можуть тимчасово обмежувати, поки розробники не переконаються, що системи безпеки встигають за зростанням можливостей моделей.