Генеративний штучний інтелект за відносно короткий час став корисним помічником для багатьох професій. Однак прикрим побічним ефектом стало збільшення кількості фішингових атак з використанням цієї технології. CEO фірми з кібербезпеки SlashNext заявив, що з шахраями можна також боротися за допомогою ШІ.
Генеративний штучний інтелект за відносно короткий час став корисним помічником для багатьох професій. Однак прикрим побічним ефектом стало збільшення кількості фішингових атак з використанням цієї технології. CEO фірми з кібербезпеки SlashNext заявив, що з шахраями можна також боротися за допомогою ШІ.
У новому звіті фірми з кібербезпеки SlashNext йдеться про те, що з моменту запуску ChatGPT кількість фішингових електронних листів зросла на 1265%, пише Decrypt.
Окрім розробки шкідливих ШІ-інструментів, таких як WormGPT, Dark Bart і FraudGPT, які поширюються в даркнеті, кіберзлочинці також знаходять нові способи зламати головний ШІ-чат-бот OpenAI.
«Коли в лютому вийшов ChatGPT, ми побачили різке збільшення кількості фішингових атак, що, очевидно, частково пов’язано з його успіхом», — розповів генеральний директор SlashNext Патрік Харр (Patrick Harr).
Фішингові атаки — це кібератаки, які здійснюються у вигляді електронних листів, текстових повідомлень або повідомлень у соціальних мережах, які виглядають як такі, що походять від авторитетного джерела. Фішингові атаки також можуть бути спрямовані на перенаправлення жертв на шкідливі вебсайти, які обманом змушують їх підписувати транзакції з їхніми криптогаманцями, а потім виводять їхні кошти.
Згідно зі звітом SlashNext, в останньому кварталі 2022 року щодня надсилалося 31 000 фішингових атак, що вже на 967% більше, ніж у попередньому. 68% усіх фішингових атак — це текстові компрометації ділової електронної пошти (BEC), а 39% усіх мобільних атак були здійснені за допомогою SMS-фішингу (smishing-атаки).
«Хоча точаться суперечки про справжній вплив генеративного ШІ на кіберзлочинність, з нашого дослідження ми знаємо, що зловмисники використовують такі інструменти, як ChatGPT, для написання складних, спрямованих на компрометацію ділової електронної пошти, фішинг-повідомлень», — сказав Харр.
Оскільки кіберзлочинці використовують генеративний ШІ для пошуку жертв, Харр вважає, що фахівці з кібербезпеки повинні перейти в наступ і боротися зі штучним інтелектом за допомогою ШІ.
«Ці компанії повинні включити [ШІ] безпосередньо у свої програми безпеки, щоб [ШІ] постійно прочісував всі їхні канали обміну повідомленнями, для усунення [загроз]. Саме тому ми використовуємо генеративний ШІ в наших власних наборах інструментів для виявлення і не тільки блокування, але й для прогнозування того, що станеться наступного разу — сказав він.
Хоча Харр оптимістично налаштований щодо здатності штучного інтелекту ловити зловмисників на гарячому, він визнає, що для цього потрібно більше, ніж просто сказати ChatGPT, щоб він стежив за кіберзагрозами. «Ви повинні мати еквівалент приватного застосунка з великою мовною моделлю, який буде налаштований на пошук підступних загроз», — вважає CEO SlashNext.
Хоча розробники ШІ, такі як OpenAI, Anthropic і Midjourney, наполегливо працювали над тим, щоб включити запобіжники проти використання їхніх платформ у зловмисних цілях, таких як фішингові атаки й поширення дезінформації, досвідчені користувачі прагнуть їх обійти.
У вересні OpenAI звернулася до фахівців з кібербезпеки, також відомих як Red Teams, з проханням допомогти знайти дірки в безпеці своїх моделей штучного інтелекту.
«Компанії повинні переосмислити свої підходи до безпеки. Їм потрібно використовувати інструменти на основі генеративного ШІ, щоб виявляти такі речі й реагувати на них, або, що ще важливіше, не просто реагувати, а виявляти, блокувати та зупиняти їх до того, як вони почнуть діяти», — підсумував Харр.
Цікаво, що раніше дослідники виявили, що використання мов, які рідше тестуються, таких як зулуська чи гельська, може зламати захист ChatGPT і змусити чат-бота пояснити, як уникнути покарання за пограбування магазину.
