OpenAI опублікувала перший звіт про те, як її інструменти штучного інтелекту використовуються для створення пропаганди. Компанія стверджує, що зірвала п’ять операцій прихованого впливу, які проводилися державними та приватними особами з росії, Китаю, Ізраїлю та Ірану.
OpenAI опублікувала перший звіт про те, як її інструменти штучного інтелекту використовуються для створення пропаганди. Компанія стверджує, що зірвала п’ять операцій прихованого впливу, які проводилися державними та приватними особами з росії, Китаю, Ізраїлю та Ірану.
У своєму звіті, який складається з 39 сторінок, OpenAI заявила, що її інструменти використовувалися в пропагандистських кампаніях, зокрема російської групи під назвою Doppelganger і китайської Spamouflage, пише The New York Times.
Doppelganger використовувала технологію OpenAI для генерації антиукраїнських коментарів, які були розміщені на X англійською, французькою, німецькою, італійською та польською мовами. Також для перекладу та редагування статей, які підтримували росію у війні в Україні, англійською та французькою мовами, а також для перетворення антиукраїнських новин на пости у Facebook.
Інструменти OpenAI також використовувалися в раніше невідомій російській кампанії, яка була спрямована на людей в Україні, Молдові, країнах Балтії та США, в основному через месенджер Telegram. Генерували коментарі російською та англійською мовами про війну в Україні, а також про політичну ситуацію в Молдові та американську політику. Також були використані інструменти OpenAI для налагодження комп’ютерного коду для запуску бота Telegram.
Політичні коментарі отримали мало відповідей і «лайків», зазначає OpenAI. Іноді зусилля також були не надто витонченими. В одному місці кампанія розмістила текст, який, очевидно, був згенерований штучним інтелектом: «Як мовна модель штучного інтелекту, я тут, щоб допомогти та надати потрібний коментар», — йшлося в дописі. В інших випадках текст був написаний поганою англійською мовою, що змусило OpenAI назвати цю кампанію «Bad Grammar».
«У всіх цих операціях певною мірою використовувався штучний інтелект, але жодна з них не використовувала його виключно, — йдеться у звіті. «Натомість матеріали, згенеровані штучним інтелектом, були лише одним із багатьох типів контенту, який вони розміщували, поряд із більш традиційними форматами, такими як тексти, написані вручну, або меми, скопійовані з усього інтернету».
OpenAI заявила, що планує періодично публікувати подібні звіти про таємні операції впливу, а також видаляти облікові записи, які порушують її політику.
