Науковці з провідних технологічних компаній та дослідницьких центрів закликають уряди терміново запровадити контроль за автоматизацією розробки штучного інтелекту. На їхню думку, здатність алгоритмів створювати власних наступників може запустити неконтрольований «інтелектуальний вибух».
Науковці з провідних технологічних компаній та дослідницьких центрів закликають уряди терміново запровадити контроль за автоматизацією розробки штучного інтелекту. На їхню думку, здатність алгоритмів створювати власних наступників може запустити неконтрольований «інтелектуальний вибух».
Про це повідомляє Business Insider із посиланням на спільну статтю дослідників та матеріали дискусії за участю наукового співробітника аналітичного центру GovAI Алана Чана.
Співавторами звернення до політиків стали співзасновник Anthropic Джек Кларк, головний науковець OpenAI Якуб Пахоцький, головний науковий директор Microsoft Ерік Горвіц та лауреат Нобелівської премії Джеффрі Хінтон. Вони вимагають запровадити обов’язкове залучення вбудованих та незалежних аудиторів, які відстежуватимуть спроби компаній автоматизувати дослідження у сфері ШІ.
«Уявіть, наприклад, що ми стикаємося з подіями рівня Mythos не щороку, а щомісяця в нових сферах. Саме таку можливість ми називаємо “інтелектуальним вибухом”», — пояснив Алан Чан.
За його словами, цей процес пов’язаний із рекурсивним самоудосконаленням (RSI). Якщо моделі почнуть масово писати код і проводити дослідження для створення наступних поколінь ШІ, це створить цикл зворотного зв’язку та прискорить зміни до невизначених темпів.
Автоматизація розробки вже є реальністю: у компанії Anthropic повідомили, що станом на травень системи ШІ згенерували понад 80% затвердженого коду компанії, тоді як на початку 2025 року частка Claude становила лише кілька відсотків. Дослідники очікують суттєвої або навіть повної автоматизації R&D у цій сфері протягом найближчих кількох років.
Чан наголошує, що прискорення розвитку технологій може принести користь — зокрема, прискорити відкриття в медицині. Проте це також підвищує ризики масштабних інцидентів із втратою контролю над системами.
Напередодні керівники Anthropic, Google, OpenAI, SpaceXAI та Nvidia підписали у Білому домі угоду про співпрацю з незалежними оцінювачами. Дональд Трамп назвав документ «морально обов’язковим», однак експерти зазначають, що угоді бракує конкретики, а регуляторне вікно для запровадження дієвих заходів стрімко зачиняється.
Нагадаємо, що у червні 2026 року Anthropic випустила флагманські моделі Claude Mythos 5 та Fable 5, розроблені для глибокого аналізу коду та виявлення вразливостей. Mythos 5 показав здатність знаходити тисячі zero-day вразливостей у критичній інфраструктурі, через що модель опинилася під тимчасовими експортними обмеженнями уряду США.
