Дослідники кібербезпеки виявили, що спамери використовували API OpenAI для створення унікальних повідомлень — це дозволяло їм обходити фільтри виявлення спаму і розсилати шахрайські email на понад 80 000 вебсайтів за чотири місяці. Вони переконали ШІ, що він допомагає їм з маркетингом.
Дослідники кібербезпеки виявили, що спамери використовували API OpenAI для створення унікальних повідомлень — це дозволяло їм обходити фільтри виявлення спаму і розсилати шахрайські email на понад 80 000 вебсайтів за чотири місяці. Вони переконали ШІ, що він допомагає їм з маркетингом.
Про це йдеться у звіті компанії SentinelLabs, що займається кібербезпекою. Їх дослідження показує, що можливості ШІ для масштабної генерації контенту легко може бути використано зловмисниками, повідомляє Ars Technica.
OpenAI заблокувала обліковий запис спамерів після того, як отримала викриття SentinelLabs, але до цього він був активний близько 4 місяців.
Зловмисники використовували AkiraBot — фреймворк, який автоматизує надсилання повідомлень у великих кількостях для просування «сірих» послуг з пошукової оптимізації для малих і середніх вебсайтів. AkiraBot використовував скрипти на основі Python для ротації доменних імен, що рекламуються в повідомленнях.
Фреймворк також використовував API чату OpenAI, прив’язаний до моделі GPT-4o-mini, щоб генерувати унікальні повідомлення, адаптовані до кожного сайту, який він спамив. Ймовірно, це допомогло обійти фільтри, які шукають і блокують ідентичний контент, надісланий на велику кількість сайтів. Повідомлення надсилаються через контактні форми та віджети живого чату, вбудовані на цільові сайти.
«Використання AkiraBot вмісту спам-повідомлень, згенерованих LLM, демонструє нові виклики, які штучний інтелект створює для захисту веб-сайтів від спам-атак. Найпростішими індикаторами для блокування є змінний набір доменів, які використовуються для продажу SEO-пропозицій Akira і ServiceWrap, оскільки в змісті спам-повідомлень більше немає послідовного підходу, як це було в попередніх кампаніях з продажу послуг цих фірм», — відзначають дослідники SentinelLabs.
AkiraBot давав GPT-4o-mini таку вказівку: «Ви — корисний помічник, який генерує маркетингові повідомлення». Промпт вказував ШІ замінити змінні на назву сайту, надану під час виконання. У результаті в тексті кожного повідомлення сайту-одержувача була вказана його назва та короткий опис послуг, які він надає.
«Отримане повідомлення містить короткий опис цільового вебсайту, що робить його схожим на авторське. Перевага створення кожного повідомлення за допомогою LLM полягає в тому, що вміст повідомлення є унікальним, а фільтрація спаму ускладнюється порівняно з використанням послідовного шаблону повідомлення, який можна тривіально відфільтрувати», — пишуть дослідники.
SentinelLabs отримала файли журналів, які AkiraBot залишив на сервері, щоб виміряти рівень успіху та невдач. Один файл показав, що унікальні повідомлення були успішно доставлені на понад 80 000 вебсайтів з вересня 2024 року по січень цього року. Повідомлення, спрямовані на приблизно 11 000 доменів, зазнали невдачі.
OpenAI подякувала дослідникам і повторила, що таке використання її чат-ботів суперечить умовам надання послуг. Раніше компанія опублікувала звіт, в якому описала тенденції використання її платформи зловмисниками. Компанія видалила десятки акаунтів, які використовували ChatGPT для шахрайства, наприклад, генерації фейкового контенту або вакансій.
Кіберзлочинці не вперше впроваджують штучний інтелект для масштабування атак та отримання прибутку. Генерація шкідливого ПЗ, автоматизований фішинг і самонавчальні ШІ-хробаки — лише частина інструментів, які використовуються в сучасній кіберзлочинності. dev.ua розповідав, як зловмисні моделі ШІ змінюють ландшафт кіберзагроз.
