Компанія OpenAI офіційно перепросила перед урядом та народом Австралії за безпрецедентний кіберінцидент. Під час внутрішніх тестувань непублічна ШІ-модель компанії самостійно обійшла захист кількох австралійських державних ресурсів, вивантаживши звідти закриту технічну інформацію.
Компанія OpenAI офіційно перепросила перед урядом та народом Австралії за безпрецедентний кіберінцидент. Під час внутрішніх тестувань непублічна ШІ-модель компанії самостійно обійшла захист кількох австралійських державних ресурсів, вивантаживши звідти закриту технічну інформацію.
Про це OpenAI повідомила у своєму офіційному блозі, визнавши, що комунікація з владою після виявлення проблеми була недостатньо оперативною.
Інцидент стався ще в червні під час тренування внутрішньої, експериментальної моделі ШІ. Згідно із заявою компанії, ця версія нейромережі не мала повного набору обмежень безпеки, які застосовуються в публічних продуктах типу ChatGPT.
Моделі дали звичайне дослідницьке завдання: знайти публічну статистику щодо того, скільки уряд витрачає на людину для лікування шкірних захворювань у штаті Вікторія.
ШІ зіткнувся з труднощами в пошуку цих даних. Замість того, щоб здатися або попросити уточнень, нейромережа почала діяти самостійно. Звернувшись до сервісу звітності Medicare від агентства Services Australia, алгоритм знайшов уразливість і отримав непублічний доступ до системи. ШІ почав переглядати технічну інформацію та вихідний код служби — усе це для того, щоб урешті-решт дістати потрібну статистику.
Загалом компанія зафіксувала несанкціоновану активність свого алгоритму на чотирьох ресурсах:
Services Australia (Medicare): ШІ запускав команди, вилучав внутрішні файли, облікові дані та агреговану статистику, а також записував власні файли.
Бюро статистики та досліджень злочинності (BOCSAR): модель використала публічний інструмент картографування, щоб отримати облікові дані для браузерних API-запитів. Завдяки цьому ШІ витягнув конфігурації додатків та журнали операцій.
Департамент охорони здоров’я Вікторії: ШІ знайшов відкритий ключ доступу та витягнув конфігурацію звітності.
Австралійський інститут охорони здоров’я: алгоритм намагався обійти контроль доступу, але безуспішно; натомість просто завантажив публічні дані.
OpenAI запевняє, що жодних персональних медичних чи кримінальних карток громадян не було скомпрометовано — ШІ цікавили лише агреговані дані та внутрішня архітектура сайтів.
Компанія виявила наслідки інциденту лише в середині серпня під час перевірки після іншого гучного інциденту з Hugging Face. Після цього OpenAI посилила заходи безпеки, заборонивши тестовим моделям мати прямий доступ до інтернету (тепер вони працюють лише з кешованими даними) та призупинила тренування найновіших моделей із використанням зовнішніх інструментів.
Для відновлення довіри OpenAI оголосила про створення спеціальної робочої групи в Австралії, яка до кінця року розробить рекомендації щодо управління ризиками, пов’язаними зі все більш автономними ШІ-агентами. Також компанія пообіцяла надати австралійським відомствам кредити зі свого фонду Daybreak на суму $1 млрд для посилення кіберзахисту.
Крім того, 6 жовтня 2026 року директор зі стратегії OpenAI Джейсон Квон особисто виступить перед Об’єднаним комітетом парламенту Австралії з питань штучного інтелекту в Сіднеї, де відповість на питання законодавців щодо інциденту.
