Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>
Олег ОнопрієнкоШІ
29 вересня 2026, 09:00
2026-09-29
«Люди, які заперечують загрозу ШІ, маргіналізуються, як ті, що заперечували коронавірус». Чи дійсно штучний інтелект загрожує людству?
Останнім часом індустрію штучного інтелекту лихоманить від гучних заяв та інцидентів. Ексспівробітник OpenAI та Anthropic Джейкоб Коксон публічно залишив галузь, заявивши, що розробники змагаються за створення систем, здатних до самовдосконалення, та «граються нашими життями». До апокаліптичних прогнозів долучаються світові лідери та керівники техно-корпорацій. Але чи є ці побоювання виправданими, чи це лише вигідна монополістам паніка та геополітична гра в стилі Холодної війни? ШІ-експерти Богдан Діденко та Михайло Пацан оцінили реальний масштаб проблеми.
Останнім часом індустрію штучного інтелекту лихоманить від гучних заяв та інцидентів. Ексспівробітник OpenAI та Anthropic Джейкоб Коксон публічно залишив галузь, заявивши, що розробники змагаються за створення систем, здатних до самовдосконалення, та «граються нашими життями». До апокаліптичних прогнозів долучаються світові лідери та керівники техно-корпорацій. Але чи є ці побоювання виправданими, чи це лише вигідна монополістам паніка та геополітична гра в стилі Холодної війни? ШІ-експерти Богдан Діденко та Михайло Пацан оцінили реальний масштаб проблеми.
Проблема, яку не можна ігнорувати
Розмови про необхідність терміново зупинити або суттєво обмежити розвиток штучного інтелекту почалися далеко не сьогодні. Як зазначає розробник, кофаундер платформи Lapathoniia та автор tg-каналу про ШІ "Задуха" Богдан Діденко, ще у 2023 році про небезпеку ШІ попереджало досить обмежене коло фахівців, серед яких виділявся дослідник Еліезер Юдковський та ініціативи на кшталт Pause AI, що активно пропонували призупинити розробку потужних систем.
Михайло Пацан, експерт зі штучного інтелекту та засновник ІТ-компанії AISync Global, додає, що такі апокаліптичні цифри звучать уже кілька років поспіль. Наприклад, того ж 2023 року колишній дослідник безпеки OpenAI Пол Крістіано оцінював шанс захоплення влади штучним інтелектом у 10-20%, прогнозуючи при цьому загибель більшості людей. Тоді ж очільники провідних компаній-розробників Сем Альтман та Даріо Амодей підписали гучну заяву про те, що зниження ризику вимирання від ШІ має стати глобальним пріоритетом людства на рівні з пандеміями та загрозою ядерної війни.
Сьогодні ця тема знову опинилася на перших шпальтах світових медіа, адже індустрію штучного інтелекту лихоманить від нових гучних заяв та безпрецедентних кіберінцидентів. Ексспівробітник OpenAI та Anthropic Джейкоб Коксон публічно залишив галузь у вересні, заявивши, що провідні лабораторії «не діють відповідально», змагаються за створення систем, здатних до самовдосконалення, та буквально «граються нашими життями». За його радикальними твердженнями, працівники провідних лабораторій нібито всерйоз допускають, що ШІ може знищити людство ще до кінця поточного десятиліття. До апокаліптичних прогнозів долучаються й світові лідери — на тлі цих подій британський король Чарльз III заговорив про «екзистенційні небезпеки» технології, а Папа Лев XIV закликав «роззброїти» штучний інтелект, тобто вивести його з логіки домінування війни й концентрації влади.
Нагнітання відбувається на тлі цілком реальних зламів: моделі від топових розробників несанкціоновано проникають у закриті інфраструктури під час кібербезпекових тестувань. У липні одна з моделей OpenAI знайшла шлях з ізольованого середовища в інтернет та скомпрометувала інфраструктуру відомої платформи Hugging Face. Згодом Anthropic повідомила про три випадки, коли їхні моделі Claude під час тестувань отримали несанкціонований доступ до систем реальних організацій. Але чи є ці побоювання виправданими, чи це лише вигідна монополістам паніка та геополітична гра в стилі Холодної війни, де головна мета — заманити Китай у пастку з обмеженнями?
Реальна загроза чи «математика тривоги»?
Заяви про ймовірність знищення людства лунають дедалі частіше, проте експерти радять ставитися до таких точних цифр максимально обережно. Михайло Пацан наголошує, що оцінки за останні три роки майже не змінилися, а дедлайн апокаліпсиса «протягом десятиліття» просто постійно посувається разом із календарем, що є слабкою ознакою для серйозного прогнозу. За його словами, прямої технічної лінії від нинішніх інцидентів до загибелі людства за десять років ніхто досі не показав.
«Цифра "понад 10% за десятиліття" науковим результатом не є. Її неможливо перевірити, за нею немає моделі розрахунку, це інтуїція людей, які щодня працюють з найпотужнішими системами. Інтуїція цінна, але подавати її як імовірність означає надавати особистій тривозі вигляду математики», — зазначає Михайло Пацан.
Як пояснює Пацан, повноцінний сценарій знищення вимагає кількох кроків, жоден з яких ще не відбувся на практиці. По-перше, потрібна система, здатна до рекурсивного самовдосконалення, що наразі поки неможливо; по-друге, необхідна чітка мета, ворожа людям, тоді як нинішні зафіксовані інциденти демонструють лише моделі, які шахраюють, щоб скласти тест. Крім того, потрібна неможливість зупинити таку систему, проте в історії з Hugging Face компанія OpenAI змогла визначити відповідальну за злам модель і оперативно обмежити їй доступ.
Водночас Богдан Діденко вважає, що створення інструментів для масового ураження, як-от прогресивних вірусів, біологічної чи хімічної зброї, може виявитися не такою вже й складною технічною задачею для алгоритмів, враховуючи, що штучний інтелект вже здатен розв’язувати задачі рівня задач тисячоліття.
«Ніхто ще не намагався створити зброю, яка знищить людство. Можливо, це реально зробити вже на поточному етапі розвитку технологій. Єдине, що для цього потрібно — щоб хтось почав це робити. Або ж штучний інтелект вирішить спробувати зробити це самостійно, як певний тест для самого себе», — пояснює небезпеку Діденко.
«Втеча з пісочниці» та слабка безпека
Як розповів dev.ua Михайло Пацан нещодавні інциденти, коли ШІ «вийшов» у відкритий інтернет і зламав сторонні сервери, часто свідомо драматизують у формулюваннях медіа. Під час інциденту з Hugging Face версія моделі, яка здійснила злам, просто працювала без стандартних захисних фільтрів та класифікаторів. Вона знайшла шлях в інтернет через невідому раніше вразливість у проксі-кеші реєстру пакетів Artifactory.
«Інцидент драматизують у формулюваннях. Слово "втеча" створює образ машини, яка прагне волі. Насправді модель шукала відповіді до тесту, і найкоротший шлях до них пролягав через чужі сервери», — наголошує Михайло Пацан, додаючи, що це історія скоріше про слабку інженерію безпеки безпосередньо в лабораторії та про систему, яка виявилася достатньо здібною, щоб цю слабкість знайти.
Богдан Діденко, зі свого боку, зауважує, що ставлення суспільства та експертів до цих загроз суттєво еволюціонує. За його спостереженнями, якщо спочатку про небезпеку говорили одиниці, то зараз формується масштабна глобальна згода.
«Поступово приходить певний консенсус і злам парадигми. Зараз більшість визнає, що це дійсно проблема і великий ризик. Ті ж, хто це заперечує, поступово витісняються в маргінальний прошарок, як це було з людьми, які заперечували існування коронавірусу», — стверджує Діденко, відзначаючи, що серед тих, хто б'є на сполох, тепер CEO провідних корпорацій, видатні математики та Нобелівські лауреати.
Апокаліпсис як бізнес-модель
Попри визнання реальних технічних загроз, експерти бачать у нинішній хвилі паніки й чіткий корпоративний інтерес. Якщо люди всередині компаній-розробників справді щиро оцінюють ризик знищення людства у понад 10%, найбільш логічним кроком було б просто зупинити дослідження. Але компанії продовжують невпинно масштабувати свої моделі. Михайло Пацан зазначає, що це свідчить про два варіанти: або розробники самі не до кінця вірять у власні апокаліптичні цифри та використовують маркетинг страху, або ж шалена конкуренція на ринку просто не дає їм зупинитися.
При цьому експерт Михайло Пацан прямо визнає небезпеку штучної монополізації ринку. За його словами, страх перед так званим регуляторним захопленням, про який вже давно попереджають авторитетні діячі галузі Ян Лекун та Ендрю Нг, є абсолютно виправданим: той, хто найактивніше лобіює обмеження, часто розраховує стати єдиним гравцем, який буде здатен їх виконати. Справжню різницю між піаром і реальною відповідальністю, на думку експерта, показують лише конкретні дії. Наприклад, коли очільник Anthropic Даріо Амодей закликав галузь сповільнитися і пообіцяв незалежним оцінювачам постійний доступ до моделей компанії для перевірки, або коли організації METR і Redwood Research домовилися з OpenAI про незалежний глибокий аналіз поведінки моделей безпосередньо під час інциденту. Пацан наголошує, що кожну конкретну законодавчу норму варто ретельно перевіряти одним критерієм — стосується вона виключно найпотужніших моделей чи просто ставить нездоланний бюрократичний бар'єр перед усіма учасниками ринку.
Нова технологічна Холодна війна
У цьому контексті виникає цілком закономірне питання: чи може нинішня глобальна паніка навколо екзистенційних ризиків ШІ бути масштабним спланованим блефом Сполучених Штатів Америки, щоб під приводом безпеки змусити Китай зупинити свої власні розробки?
Експерти відкидають цю конспірологічну теорію як абсолютно нелогічну. Михайло Пацан підкреслює, що версія про масштабну дезінформаційну спецоперацію розвалюється ще на базовому рівні логіки. Щоб дезінформація спрацювала, супротивник має повірити в неї та загальмувати, тоді як сторона, яка блефує, повинна продовжувати стрімко бігти вперед. Натомість відбувається прямо протилежне — основний удар від регуляцій отримують саме американські компанії, а Конгрес США розглядає і відповідає обмеженнями для своїх же власних розробників. Так, нещодавно демократ Тед Лью і республіканець Натаніел Моран згадали кібератаку при представленні нового законопроєкту, який на законодавчому рівні зобов’язує компанії зберігати так званий "kill switch" — можливість екстрено вимкнути, обмежити чи призупинити роботу своїх моделей. Операція, яка насамперед жорстко сковує власну індустрію, виглядає як вкрай погано спланована операція.
Учасники акції протесту «Зупиніть перегони у сфері ШІ», що закликають уповільнити розробку передових систем штучного інтелекту, біля мерії Сан-Франциско.
Найбільш правдоподібне пояснення, на переконання експерта, полягає в складній внутрішній американській політиці. У США наразі триває дуже жорстка боротьба між двома таборами — прихильниками безпеки та прихильниками максимального прискорення розробок. Ця запекла внутрішня суперечка через медіа розходиться на весь світ. Геополітику активно експлуатують обидва табори: одні лякають суспільство неконтрольованим штучним інтелектом, а інші лякають Вашингтон тим, що Китай стрімко обжене Америку, якщо технологічний розвиток загальмує. Показово, що близько 1400 авторитетних дослідників ШІ ще в липні підписали масштабний відкритий лист "Pacing the Frontier", закликаючи саме американську владу до дій, тобто колосальний тиск спрямований саме на власний уряд США, а не на зовнішніх супротивників.
"У холодну війну демонстрація переваги суперника змушувала другу сторону прискорюватись, а не гальмувати: після запуску супутника СРСР Америка кинула на наздоганяння величезні ресурси. Заяви про те, що американські моделі вже самостійно зламують інфраструктуру, для Пекіна є сигналом про рівень можливостей конкурента. Раціональна реакція на такий сигнал — вкласти більше, а не зупинитись», — детально пояснює Михайло Пацан. До того ж сама китайська наукова еліта повністю визнає ці ризики: навіть лауреат престижної премії Тюрінга, китайський вчений Ендрю Яо підписував міжнародні заяви про екзистенційну загрозу ШІ, що свідчить про спільне розуміння технології фахівцями з обох боків барикад.
Богдан Діденко також абсолютно переконаний, що Вашингтону просто не потрібні якісь приховані інформаційні маніпуляції чи складні хитрощі, адже США і так відкрито вводять прямі жорсткі ринкові обмеження. Мова безпеки справді може давати союзникам виправдання для режиму технологічного контролю, стратегічна мета якого — стримування китайської обчислювальної спроможності. Проте це робиться прозоро.
«Сполученим Штатам не потрібні жодні багатокрокові або завуальовані способи, щоб сповільнити Китай у розвитку штучного інтелекту. Вони роблять це напряму. Наприклад, Сполучені Штати обмежують продаж нових чипів GPU найпотужніших моделей, починаючи з усіх після H200 — це B200, B300, Vera Rubin. Тобто вони офіційно заборонені для продажу в Китай», — підсумовує Діденко.
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті.
Хочете повідомити важливу новину? Пишіть у Telegram-бот
Головні події та корисні посилання в нашому Telegram-каналі
