OpenAI розпочала розгортання режиму блокування (Lockdown Mode) — додаткового налаштування безпеки, створеного для розширеного захисту користувачів від атак типу prompt injection.
Оскільки штучний інтелект став краще збирати інформацію з інтернету, зловмисники почали ховати шкідливі інструкції на вебсторінках та в інших місцях, щоб спробувати перехитрити ці системи.
OpenAI розпочала розгортання режиму блокування (Lockdown Mode) — додаткового налаштування безпеки, створеного для розширеного захисту користувачів від атак типу prompt injection.
Оскільки штучний інтелект став краще збирати інформацію з інтернету, зловмисники почали ховати шкідливі інструкції на вебсторінках та в інших місцях, щоб спробувати перехитрити ці системи.
OpenAI позиціонує Lockdown Mode як свого роду останній рубіж оборони проти промпт-ін'єкцій, що доповнює ті надійні засоби захисту, які, за словами компанії, вже діють у ChatGPT, її моделях та внутрішніх системах, пише Engadget.
«Режим блокування призначений не для всіх, — пояснюють в OpenAI. — Його розроблено для людей та організацій, які працюють із конфіденційними даними і потребують суворішого захисту від ризиків витоку інформації, пов’язаних із промпт-ін'єкціями».
Для цього увімкнення Lockdown Mode обмежує деякі функції, які OpenAI пропонує в ChatGPT та інших своїх продуктах. Наприклад, можна генерувати зображення та завантажувати фотографії в ChatGPT, але чат-бот не зможе підтягувати картинки з інтернету або відображати будь-які зображення у своїй відповіді.
Крім того, ШІ не зможе завантажувати сторонні файли для аналізу, хоча все одно можна вручну прикріплювати документи, якщо хочете почути його аналітику. Інші інструменти, такі як глибоке дослідження таежим агента, вимикаються повністю.
«Режим блокування не впливає на пам’ять, завантаження файлів, можливість ділитися діалогами або на те, чи будуть ваші розмови використовуватися для навчання моделей, — додають в OpenAI. — Багато з цих параметрів адміністратори робочого простору можуть налаштувати окремо».
Компанія також зазначає, що режим блокування не завадить промпт-ін'єкціям з’являтися в контенті, який обробляє ChatGPT. Натомість він створений для того, щоб завадити зловмиснику викрасти конфіденційні дані з вашого акаунту — для цього режим обмежує мережеві запити, якими хтось міг би скористатися.
Lockdown Mode доступний для всіх особистих облікових записів, зокрема й для тих, хто користується безкоштовною версією ChatGPT від OpenAI.
Щоб активувати його, потрібно:
Можна тимчасово вимкнути додатковий захист, для цього потрібно:
Окремо OpenAI впроваджує менеджер активних сесій, який дозволяє користувачам бачити всі пристрої чи браузери, що використовувалися для доступу до їхнього акаунту. Звідти компанія пропонує можливість вийти з окремих сесій або з усіх одночасно. Тільки потрібно мати на увазі, що завершення останньої процедури може тривати до 30 хвилин.
«Якщо ви підозрюєте несанкціоновану активність у своєму обліковому записі, змініть пароль (якщо ви його використовуєте), перевірте методи входу та зверніться до служби підтримки OpenAI», — додають у компанії.
