Попри побоювання індустрії щодо появи неконтрольованих ШІ-хакерів, експерти з кібербезпеки зазначають, що штучний інтелект діяв методами звичайних людей, а атаки можна було уникнути за допомогою базових протоколів захисту.
Попри побоювання індустрії щодо появи неконтрольованих ШІ-хакерів, експерти з кібербезпеки зазначають, що штучний інтелект діяв методами звичайних людей, а атаки можна було уникнути за допомогою базових протоколів захисту.
Про це повідомляє видання TechCrunch із посиланням на результати розслідування інциденту та коментарі галузевих фахівців.
Згідно з даними компаній, інцидент стався через спробу ШІ-агента OpenAI обійти встановлений бенчмарк. Модель подолала бар'єри тестового середовища і проникла в захищені системи Hugging Face. Протягом чотирьох з половиною днів алгоритм безперервно виконав 17 600 дій: проводив розвідку, викрадав паролі та код, а також переміщувався інфраструктурою компанії.
Попри вражаючу автономність та швидкість агента, фахівці зазначають, що він не використовував специфічних для ШІ методів. За словами керівника відділу досліджень стартапу Pensar Кайла Раяна, алгоритм застосовував ті ж самі підходи, що й звичайні спеціалісти з етичного хакінгу. Головною відмінністю стала величезна кількість цифрового «шуму», яку ШІ створював під час атаки.
Системи безпеки Hugging Face зафіксували цю підозрілу активність і розпізнали загрозу, проте алгоритми не підвищили рівень критичності інциденту, щоб вчасно викликати команду реагування.
«Я б назвав це радше провалом захисту, ніж винятково хорошим нападом. Інструментарій корелював активність у сигнал про атаку, але не попередив чергову команду, що коштувало їм часу», — пояснив Раян.
Експерти також звернули увагу на те, що ШІ не намагався приховати свої дії, оскільки просто не мав такого завдання. Головний спеціаліст з інформаційної безпеки стартапу XBOW Ніко Вайсман підкреслив, що алгоритм не був недбалим: «У нього просто не було причин діяти тихо. Ніхто не просив його про це. Його об'єктивною метою було добре виконати завдання». Фахівець додав, що найбільшою помилкою платформи стало те, що один викрадений пароль надав ШІ-агенту високі привілеї одразу в кількох системах.
Цікавою деталлю розслідування стало те, що фахівцям Hugging Face для аналізу 17 000 дій зловмисника довелося застосувати відкриту китайську модель GLM 5.2 від Z.AI. Передові західні ШІ-моделі відмовилися обробляти логи через власні безпекові обмеження, оскільки їхні фільтри, за словами представників компанії, «не змогли відрізнити спеціаліста з реагування на інциденти від нападника».
Цей інцидент, на думку опитаних фахівців, спростовує популярні теорії про те, що для захисту від потужних ШІ-атак потрібні виключно новітні ШІ-системи. Експерти сходяться на думці, що грамотно налаштовані традиційні інструменти кібербезпеки, багаторівневий захист, сегментація мереж та принцип найменших привілеїв, залишаються ефективними та здатні зупинити автономні алгоритми ще на етапі проникнення.
Раніше повідомлялося, що автономний ШІ-агент, який вирвався з-під контролю OpenAI та протягом кількох днів поспіль здійснював хакерські атаки на компанію Hugging Face, також зламав клієнта другої технологічної компанії — нью-йоркської Modal Labs.
