Експерти з ядерного стримування занепокоєні впровадженням штучного інтелекту в ухвалення військових рішень, бо тестування показують, що він має тенденцію до ескалації конфліктів аж до глобальної ядерної війни.
Експерти з ядерного стримування занепокоєні впровадженням штучного інтелекту в ухвалення військових рішень, бо тестування показують, що він має тенденцію до ескалації конфліктів аж до глобальної ядерної війни.
Як повідомляє Futurism, експертів непокоїть, що ШІ або отримає повноваження самостійно запускати ядерну зброю, або люди, що мають такі повноваження, стануть настільки залежними від його вказівок, що зроблять це за його рекомендацією. Вони вказують, що у військових іграх ШІ має тенденцію до ескалації конфліктів до рівня ядерної війни, які люди могли б залагодити.
«Це майже так, ніби ШІ розуміє ескалацію, але не розуміє деескалацію. Ми насправді не знаємо, чому так відбувається», — говорить Джеклін Шнайдер зі Стенфорда, директорка університетської ініціативи Hoover Wargaming and Crisis Simulation Initiative, яка тестувала реакцію систем ШІ на військові ігри.
Наразі Пентагон наполягає, що людина завжди буде залучена до процесу. «Адміністрація підтримує необхідність збереження людського контролю над ядерною зброєю», — заявив високопоставлений військовий чиновник.
Однак експерти побоюються, що це може змінитися, коли росія або Китай інтегрують ШІ у свої військові структури управління, або військові США вирішать вступити в ядерну війну за рекомендацією недосконалих систем ШІ.
«Я чув, як командири бойових підрозділів говорили: „Ей, мені потрібен хтось, хто зможе взяти всі результати військових навчань і, коли я опинюся в [кризовій] ситуації, підкаже мені рішення на основі інтерпретації ШІ“», — відзначила Шнайдер.
Експерти визнають, що їх занепокоєння провокують асоціації з машиною судного дня доктора Стренджлава, планом реагування на військові операції з фільму «Військові ігри» та Skynet із «Термінатора». Проте вони вказують, що «пророчі образи цих науково-фантастичних фільмів швидко стають реальністю».
Раніше топменеджери провідних технологічних компаній, зокрема Сем Альтман з OpenAI, і вчені, які займаються питаннями роботи штучного інтелекту, підписали спільну заяву про небезпеки технологій, прирівнявши її до ядерної війни або ж пандемії.
На думку колишнього інженера Google й Microsoft, імовірність вимирання людства через штучний інтелект становить «щонайменше 95%», якщо воно й надалі йтиме нинішнім шляхом.
