Зловмисники все частіше відмовляються від простих кодинг-асистентів на базі штучного інтелекту на користь мультиагентних фреймворків, які здатні повністю автоматизувати кожен етап кібератаки.
Зловмисники все частіше відмовляються від простих кодинг-асистентів на базі штучного інтелекту на користь мультиагентних фреймворків, які здатні повністю автоматизувати кожен етап кібератаки.
Згідно з новим звітом Google Threat Intelligence Group (GTIG), який спирається на дані Mandiant, хакери почали застосовувати ШІ-агентів для координації завдань, самостійного усунення помилок та адаптації дій з мінімальним залученням людини, повідомляє BleepingComputer.
«Протягом останнього кварталу зловмисники вийшли за межі простих промптів для LLM і почали інтегрувати ШІ на різних етапах циклу атаки. Вони створюють високоавтономні системи, здатні аналізувати складні завдання та ухвалювати динамічні рішення без контролю з боку людини», — зазначають у GTIG.
В одному з зафіксованих інцидентів хакери зламали хмарну інфраструктуру організації та запустили автономний мультиагентний фреймворк. Менш ніж за шість годин за допомогою ШІ-чатбота, одного промпту та інструкцій у форматі Markdown вони спланували та розгорнули масштабну кампанію зі збору облікових даних.
ШІ-агенти самостійно керували скануванням вразливостей, викрали тисячі сторонніх паролів, усували збої в режимі реального часу, змінювали IP-адреси та перенаправляли трафік через інші зламані хмарні середовища для обходу захисту. Це критично скоротило час, який зазвичай мали фахівці з кібербезпеки для реагування.
Під час іншого розслідування дослідники виявили командний сервер з автоматизованою системою Recon. Цей фреймворк у реальному часі керував понад 23 800 викраденими секретами, зокрема API-ключами.
У GTIG також відзначили використання ШІ державними угрупованнями:
китайські кібершпигуни експериментували із ШІ-інструментами для створення конвеєрів автоматизованої експлуатації вразливостей;
російська група UNC5792 інтегрувала моделі ШІ в ботів для автоматичного моніторингу Telegram-каналів і пошуку потрібної уряду інформації;
угруповання UNC6780 (TeamPCP) застосовувало ШІ у скомпрометованих ланцюгах постачання.
Крім цього, фіксуються випадки дистиляції моделі Gemini AI через понад 100 млн промптів, а на тіньовому ринку зростає попит на вкрадені акаунти ШІ-сервісів та API-ключі.
Попри швидкий розвиток технологій, у Google наголошують: повністю автономне хакерство ще не стало масовим явищем. Дослідники поки не спостерігали масштабних повністю автономних систем для пошуку вразливостей 0-day чи вибудовування ланцюгів атак проти реальних цілей.
Крім того, власна модель компанії — Gemini — завчасно виявляла більшість спроб зловживань і реагувала відповідно до протоколів безпеки. Це дозволило Google вчасно блокувати пов’язані акаунти та зупиняти кампанії зловмисників.
