Компанія OpenAI оголосила, що збільшує винагороду за своєю програмою Security Bug Bounty з $20 000 до $100 000 та сферу діяльності програми Cybersecurity Grant, а також розробляє нові інструменти для захисту ШІ-агентів від зловмисників.
Компанія OpenAI оголосила, що збільшує винагороду за своєю програмою Security Bug Bounty з $20 000 до $100 000 та сферу діяльності програми Cybersecurity Grant, а також розробляє нові інструменти для захисту ШІ-агентів від зловмисників.
Цей анонс відбувся на фоні повідомлень, що ШІ-агенти можуть бути використані для написання та надсилання фішингових атак, повідомляє TechRadar. Так компанія прагне підкреслити свою «прихильність до винагороди значущих, високоефективних досліджень у сфері безпеки, які допомагають нам захищати користувачів і підтримувати довіру до наших систем».
З моменту запуску грантової програми з кібербезпеки у 2023 році OpenAI розглянула тисячі заявок і навіть профінансувала 28 дослідницьких ініціатив, що допомогло компанії отримати розуміння таких питань безпеки, як автономний захист від кіберзагроз, швидкі ін'єкції та безпечна генерація коду.
OpenAI заявляє, що постійно відстежує зловмисників, які намагаються використати її системи, а також виявляє та руйнує подібні кампанії.
«Ми не просто захищаємося, ми ділимося секретами з іншими лабораторіями ШІ, щоб посилити наш колективний захист. Ділячись цими новими ризиками та співпрацюючи з галуззю та урядом, ми допомагаємо забезпечити безпечну розробку та розгортання технологій штучного інтелекту», — стверджують в компанії.
OpenAI — не єдина компанія, яка збільшила свою програму винагород: у 2024 році Google оголосила про п’ятикратне збільшення винагороди за виявлення багів, аргументуючи це тим, що більш безпечні продукти ускладнюють пошук багів, тому з’являються й вищі винагороди.
«Ми залучаємо дослідників і практиків з усієї спільноти кібербезпеки. Це дозволяє нам використовувати новітні ідеї та ділитися своїми висновками з тими, хто працює над створенням більш безпечного цифрового світу», — розповіли в Open AI.
В компанії зазначали, що для навчання своїх моделей співпрацюють з експертами з академічних, урядових і комерційних лабораторій, щоб визначити прогалини в кібербезпеці.
У лютому 2025 року OpenAI опублікувала звіт, в якому описала тенденції використання її платформи зловмисниками. Компанія видалила десятки акаунтів, які використовували ChatGPT для шахрайства, наприклад, генерації фейкового контенту або вакансій.
Нещодавно dev.ua розповідав, що кіберзлочинці активно впроваджують штучний інтелект для масштабування атак та отримання прибутку. Генерація шкідливого ПЗ, автоматизований фішинг і самонавчальні ШІ-хробаки — лише частина інструментів, які використовуються в сучасній кіберзлочинності.
