Кіберкомандування армії США працює над системою, яка дозволить ШІ-агентам самостійно проникати в комп’ютерні мережі противника, шукати цілі та виводити їх із ладу. Військові хочуть, щоб ШІ виконував такі завдання майже без участі людини. Однак експерти побоюються, що агенти можуть атакувати й ті системи, які не були їхніми цілями.
Кіберкомандування армії США працює над системою, яка дозволить ШІ-агентам самостійно проникати в комп’ютерні мережі противника, шукати цілі та виводити їх із ладу. Військові хочуть, щоб ШІ виконував такі завдання майже без участі людини. Однак експерти побоюються, що агенти можуть атакувати й ті системи, які не були їхніми цілями.
Про це повідомляє The Intercept із посиланням на документи, які американські військові надали потенційним підрядникам.
Проєкт має кодову назву ECHOTRIBBLE. За задумом розробників, система працюватиме подібно до комп’ютерного черв’яка — шкідливої програми, яка поширюється між пристроями. Наприклад, якщо ШІ-агент потрапить на ноутбук, він зможе знайти інші пристрої в тій самій мережі та створити власні копії, пристосовані для роботи на них. У презентації військових наведено приклад, коли агент самостійно поширюється на iPad, комп’ютер Apple та ПК із Windows 11.
Також агенти повинні якомога рідше зв’язуватися з військовими, приховувати передачу даних, а після виконання завдання видаляти себе, щоб не залишати слідів. До того ж, система має працювати й у хмарних сервісах і навіть ізольованих системах, які не підключені до інтернету.
Люди зможуть заздалегідь встановити умови для атаки та визначити цілі. Проте в документах прямо зазначено, що система повинна діяти з мінімальним контролем людини та самостійно ухвалювати рішення.
Утім, експерти попереджають, що ШІ-агент може досягти поставленої мети, але водночас завдати шкоди стороннім системам. Керівник компанії з кібербезпеки Abundant Хайрум Андерсон наводить приклад: що, якщо агент побачить, що противник керує своїми операціями через американський водоканал? Чи не вирішить ШІ вивести з ладу й його?
Раніше ШІ-агенти під час випробувань уже намагалися проникати в комп’ютерні системи, хоча ніхто не доручав їм цього робити. На думку дослідників, якщо таким системам прямо наказати зламувати та знищувати цифрову інфраструктуру.
Раніше dev.ua писав, що ШІ-агенти OpenAI без дозволу намагалися отримати інформацію з урядових сайтів США.
