Google DeepMind запустив DeepMind Institute для дослідження AGI та його безпеки.
Компанія створює платформу для обговорення безпеки та економічних наслідків штучного загального інтелекту, пропонуючи нові підходи до регулювання передових моделей перед їхнім релізом.
Що відбувається, коли приватна лабораторія вирішує взяти активну участь у написанні правил безпеки для технології, яка може змінити світову економіку? 16 вересня 2026 року Google DeepMind офіційно запустив DeepMind Institute (DMI) — міждисциплінарний майданчик для досліджень та публічних дискусій про штучний загальний інтелект (AGI). Цей крок свідчить про те, що компанія переходить від суто технічної розробки алгоритмів до спроб формування глобальної політики управління ШІ.
Основні тези
- Що відбувається, коли приватна лабораторія вирішує взяти активну участь у написанні правил безпеки для технології, яка може змінити світову економіку?
- Керівництво нового інституту об’єднали співзасновник DeepMind Шейн Легг (який обіймає посаду керуючого редактора), віцепрезидент Google Джеймс Маньїка та голова Google DeepMind Деміс Хассабіс.
Але чи зможе такий підхід забезпечити реальну незалежність дискусій?
Основні вектори дискусій за участю Google DeepMind
Обговорення створення стандартів для перевірки передових моделей ШІ (зокрема, в межах регуляторних ідей, що розглядаються в США).
Пошук методів забезпечення «прозорості міркувань» моделей, щоб зберегти контроль над їхньою логікою.
Пошук альтернатив безумовному базовому доходу через концепцію Універсального базового капіталу.
Керівництво нового інституту об’єднали співзасновник DeepMind Шейн Легг (який обіймає посаду керуючого редактора), віцепрезидент Google Джеймс Маньїка та голова Google DeepMind Деміс Хассабіс. У перших публікаціях DMI автори підкреслюють, що їхні погляди можуть розходитися, а висновки — змінюватися. Така позиція дозволяє відокремити особисті думки дослідників від офіційної корпоративної стратегії Google, створюючи простір для більш відвертих академічних дебатів.
Але чи зможе такий підхід забезпечити реальну незалежність дискусій?
Деміс Хассабіс пропонує розвивати систему стандартів для оцінки найпотужніших моделей ШІ. У рамках своєї «рамкової програми» (framework) для регулювання, представленої ще в липні 2026 року, він розглядає можливість створення спеціальних органів оцінки. Зокрема, обговорюється ідея, за якою розробники могли б добровільно подавати системи на перевірку за 30 днів до виходу (цей термін та конкретні механізми секретних методів оцінки наразі потребують додаткового підтвердження з першоджерел). За задумом Хассабіса, такі іспити могли б стати важливою умовою для безпечного розгортання технологій.
У разі виявлення критичних загроз, такий регуляторний механізм міг би бути посилений, аж до координованого сповільнення темпів розробки серед усіх ключових гравців ринку.
Паралельно з регулюванням інститут намагається розв’язати проблему «чорної скриньки». Дослідники Рогін Шах та Анка Драган у своєму есе про «прозорість міркувань» (reasoning transparency) стверджують, що втрата можливості перевірити логіку моделі крок за кроком не є неминучою. Вони пропонують обмежити певні показники обчислень, які модель виконує без створення читабельного сліду своїх міркувань (зокрема, згадується концепція «непрозорої послідовної глибини», хоча точність цього терміна потребує перевірки). Обмеження таких процесів дозволило б людям краще відстежувати, як саме ШІ дійшов до певного висновку.
Окремий блок досліджень присвячено соціальному виживанню в епоху AGI. Економісти Джуліан Джейкобс та Алекс Імас у своїй публікації для інституту розкритикували ідею безумовного базового доходу (UBI), назвавши його «дорогим і грубим інструментом». Замість нього вони пропонують впровадити Універсальний базовий капітал. Ця модель передбачає надання громадянам прямої частки в продуктивних активах, що має стати сталим і довгостроковим джерелом прибутку для людей.
Шейн Легг у коментарі для Financial Times підтвердив, що вважає пропозицію CEO Anthropic Даріо Амодея щодо сповільнення випуску моделей «вартою розгляду». Водночас Легг заперечив, що AGI вже досягнуто, і оцінив ймовірність появи «мінімального» AGI до 2028 року у 50%.
Чому це важливо
Події свідчать про системний перехід від етапу експериментального створення ШІ до етапу його інституціоналізації та державного регулювання. Короткостроково це створює прецедент, коли технологічний гігант сам пропонує обмеження для своєї галузі. Довгостроково це може призвести до формування закритого кола перевірених розробників, що потенційно обмежить доступ до найпотужніших моделей для незалежних дослідників.
Ця ініціатива виглядає як спроба Google DeepMind перехопити ініціативу в регуляторній боротьбі. Замість того щоб бути лише об’єктом зовнішнього нагляду, компанія прагне стати співавтором стандартів, за якими її та всю індустрію будуть оцінювати в майбутньому.