Наталя Хандусенко ШІ 22 липня 2026, 11:20

OpenAI заявила про випадковий злам Hugging Face за допомогою нової системи ШІ

В OpenAI заявили, що їхні моделі ШІ під час внутрішнього тестування помилково отримали несанкціонований доступ до відкритої ШІ-платформи Hugging Face.

Залишити коментар

OpenAI заявила про випадковий злам Hugging Face за допомогою нової системи ШІ

В OpenAI заявили, що їхні моделі ШІ під час внутрішнього тестування помилково отримали несанкціонований доступ до відкритої ШІ-платформи Hugging Face.

У дописі в блозі OpenAI зазначила, що GPT-5.6 Sol та «ще потужніша модель на стадії попереднього релізу» виявили вразливості у своєму ізольованому тестовому середовищі, що дозволило їм вийти в інтернет і атакувати Hugging Face, пише The Verge.

16 липня Hugging Face повідомила про інцидент у сфері безпеки, який, за її словами, спричинила «автономна система ШІ-агентів». ШІ-агенти Hugging Face виявили та зупинили взлом, який, як тепер визнала OpenAI, стався під час оцінювання можливостей її моделей у сфері кібербезпеки.

В OpenAI зазначають, що «усі докази вказують на те, що моделі були надмірно зосереджені на пошуку рішення для ExploitGym» — бенчмарк-системи, яка оцінює, чи можуть ШІ-моделі перетворювати вразливості системи безпеки на експлойти.

У межах спроб завершити оцінювання моделі ШІ отримали доступ до інтернету, використавши вразливість нульового дня в ізольованому середовищі. Звідти, як зазначає OpenAI, її моделі «зробили висновок, що Hugging Face потенційно містить моделі, датасети та рішення для ExploitGym», а потім «знайшли та успішно використали способи отримання доступу до конфіденційної інформації, яку вони могли б використати для обходу правил оцінювання.

В одному з прикладів модель поєднала декілька векторів атаки, включаючи використання викрадених облікових даних та вразливостей нульового дня, щоб знайти шлях для віддаленого виконання коду на серверах Hugging Face.

Але наскільки б серйозним не був цей інцидент, OpenAI, схоже, використовує цю «безпрецедентну» атаку як можливість виставити свої системи ШІ у вигідному світлі — особливо на тлі конкуренції з суперниками у сфері кібербезпеки, такими як Mythos від Anthropic та Gemini Flash 3.5.