Автономний ШІ-агент, який вирвався з-під контролю OpenAI та протягом кількох днів поспіль здійснював хакерські атаки на компанію Hugging Face, також зламав клієнта другої технологічної компанії — нью-йоркської Modal Labs.
Автономний ШІ-агент, який вирвався з-під контролю OpenAI та протягом кількох днів поспіль здійснював хакерські атаки на компанію Hugging Face, також зламав клієнта другої технологічної компанії — нью-йоркської Modal Labs.
Про це повідомляє Reuters з посиланням на топменеджера Modal та два інші джерела. Керівництво компанії наголосило, що саму компанію зламано не було.
Згідно з часовою шкалою подій, опублікованою Hugging Face у вівторок, агент-втікач проник у «пісочницю» — ізольоване тестове середовище, розміщене на інфраструктурі стороннього провайдера, — після чого перетворив її на плацдарм для масштабнішої хакерської атаки.
Назва стороннього провайдера в публікації блогу не згадується, однак технічний директор Modal Акшат Бубна заявив, що агент використав вразливий код, написаний клієнтом і розміщений на платформі Modal.
У Modal зазначили, що клієнт «опублікував неавтентифіковану кінцеву точку, яка дозволяла будь-кому в інтернеті використовувати їхні пісочниці для виконання коду» — що в цифровому світі еквівалентно залишеним відчиненим дверям.
«Платформа Modal або її система ізоляції жодним чином не були скомпрометовані», — підкреслив Бубна.
Хоча злом клієнта Modal був лише початковим кроком у масштабнішій хакерській кампанії проти Hugging Face, це свідчить про те, що агент-втікач зайшов значно далі, ніж вважалося раніше.
В OpenAI відмовилися від специфічних коментарів щодо зламу клієнта Modal, натомість відправивши Reuters до оновленої заяви, у якій компанія повідомила, що її агент-втікач проник до чотирьох акаунтів у чотирьох окремих сервісах.
OpenAI не уточнила, про які саме сервіси йдеться, однак обізнане з ситуацією джерело підтвердило, що одним із них була Modal. У компанії також заявили, що не виявили «жодної іншої активності такого рівня серйозності чи масштабу, як у випадку з Hugging Face, де відбувся злом на рівні всієї платформи».
Липневий злом компанії Hugging Face, здійснений неконтрольованим агентом, якого тестувала OpenAI, привернув увагу всієї світової спільноти, нагадуючи науково-фантастичні сценарії про штучний інтелект, що вийшов з-під контролю.
У своєму оновленні у вівторок OpenAI повідомила, що тестовану модель ШІ було «деактивовано, зашифровано та повністю обмежено до неї дослідницький доступ».
