Компанія OpenAI опублікувала свіжий звіт про зловмисників, які намагаються зловживати її моделями штучного інтелекту. Серед них опинилася російська медіаорганізація «Рибарь» (Rybar), яку виявили в ході операції «Корм для риб».
Компанія OpenAI опублікувала свіжий звіт про зловмисників, які намагаються зловживати її моделями штучного інтелекту. Серед них опинилася російська медіаорганізація «Рибарь» (Rybar), яку виявили в ході операції «Корм для риб».
«Ми заблокували низку акаунтів в ChatGPT, пов’язаних із мережею „Рибарь“… Мережа генерувала контент, який публікувався в інтернеті, іноді акаунтами під брендом „Рибарь“, а іноді акаунтами в соціальних мережах, які не мали з ним жодного офіційного зв’язку», — ідеться у звіті OpenAI про операцію, яку в компанії назвали «Корм для риб».
Вони виявили, що росіяни використовували ШІ в основному для створення контенту для соцмереж.
«Користувачі зазвичай пишуть російською мовою, але створюють контент різними мовами, зокрема російською, англійською й іспанською. Частина
цього контенту потім публікувалася в інтернеті на сторінках соціальних
мереж під брендом „Rybar“ і на основному вебсайті Rybar. Один користувач також створював відеоролики Sora, що рекламували бренд Rybar», — вказується в дослідженні.
ChatGPT також використовувався для генерування коментарів англійською мовою. Згодом вони публікувалися в акаунтах соцмереж, нібито не пов’язаних із Rybar.
Дослідники кібербезпеки зазначають, що один з акаунтів цієї мережі попросив ChatGPT допомогти скласти комерційні плани від імені «Рибарь» для таємних кампаній втручання в Африці. В окремому запиті модель попросили відредагувати пропозицію щодо кампанії з втручання у вибори, імовірно, в Африці.
Промпт охоплював як діяльність на місцях, так і в Інтернеті, наприклад, створення мережі місцевих агентів та організацію масштабних заходів. У третьому запиті йшлося про інформаційну кампанію, зосереджену на Демократичній Республіці Конго (ДРК). У подальших запитах йшлося про виборчий процес у Бурунді та Камеруні, а також наводилися варіанти кампанії на Мадагаскарі, включно з ідеєю розпалювання протестів на місцях.
Орієнтовний річний бюджет найамбітнішого проєкту становив до $600 000.
«Контент, створений в результаті цієї операції, був типовим для таємних операцій росії з впливу протягом багатьох років. Зазвичай він вихваляв росію та її союзників (таких як Білорусь), критикував Україну та звинувачував західні країни у зовнішньому втручанні», — зробили висновок дослідники OpenAI.
Нагадаємо, що у 2024 році США оголосили винагороду в розмірі до $10 млн за інформацію про російський проєкт «Рибарь». У Держдепі зазначали, що раніше медіа фінансувалося власником ПВК «Вагнера» Євгєнієм Прігожиним. Згодом «Рибарь» почав отримувати фінансування від російської оборонно-промислової організації «Ростех», яка перебуває під санкціями США.
