OpenAI опублікувала звіт, в якому описала тенденції використання її платформи зловмисниками. Компанія видалила десятки акаунтів, які використовували ChatGPT для шахрайства, наприклад, генерації фейкового контенту або вакансій.
OpenAI опублікувала звіт, в якому описала тенденції використання її платформи зловмисниками. Компанія видалила десятки акаунтів, які використовували ChatGPT для шахрайства, наприклад, генерації фейкового контенту або вакансій.
Нещодавно OpenAI оголосила, що досягла позначки в 400 мільйонів щотижневих активних користувачів. Компанія деталізувала, що кількість її користувачів збільшилася більш ніж на 100 мільйонів менш ніж за три місяці, оскільки все більше підприємств і розробників використовують її інструменти. Про це пише Digital Trends.
Така популярність ChatGPT, зокрема, зумовлена тим, що це безплатний сервіс, доступ до якого можна отримати по всьому світу. Це приваблює не лише звичайних користувачів, а й зловмисників.
«Політика OpenAI суворо забороняє використовувати результати роботи наших інструментів для шахрайства або афер. Завдяки нашому розслідуванню оманливих схем працевлаштування ми виявили та заблокували десятки акаунтів», — йдеться у звіті компанії.
OpenAI розповіла про те, як їй доводилося боротися з нечесними діями, що відбуваються на ChatGPT. Компанія навела кілька прикладів, коли вона виявила і вжила заходів, заблокувавши акаунти, які використовували інструмент зі зловмисними намірами.
В одному випадку OpenAI детально описала акаунт, який писав «зневажливі статті про США», причому джерело новин публікувалося в Латинській Америці під виглядом китайського видання.
Інший випадок, локалізований у Північній Кореї, полягав у створенні резюме та профілів вакансій для вигаданих претендентів на роботу. За даними OpenAI, акаунт міг використовуватися для подачі заявок на роботу в західні компанії.
Ще одне дослідження виявило акаунти, ймовірно, з Камбоджі, які використовували ChatGPT для перекладу і створення коментарів у соцмережах X, Facebook та Instagram. Ними користувалися шахраї, які втирались в довіру до користувачів цих платформ, і виманювали гроші.
OpenAI підтвердила, що поділилася своїми висновками зі своїми колегами по індустрії, такими як Meta, які можуть ненавмисно постраждати від дій, що відбуваються в ChatGPT.
Експерти з кібербезпеки давно відзначають, що зловмисники використовують ChatGPT у зловмисних цілях, таких як розробка шкідливого програмного забезпечення та іншого шкідливого коду. Зокрема, зловмисники використовували API OpenAI для створення альтернатив ChatGPT, які можуть генерувати шкідливе програмне забезпечення.
Раніше в Rakuten Viber розповіли про шахрайську схему, яка почала набирати обертів на платформі. Щоб отримати доступ до облікового запису користувача, зловмисники надсилають повідомлення або телефонують від імені банку, мобільного оператора, сервісу оголошень в інтернеті тощо.
