OpenAI опубликовала первый отчет о том, как инструменты искусственного интеллекта используются для создания пропаганды. Компания утверждает, что сорвала пять операций скрытого влияния, проводимых государственными и частными лицами из россии, Китая, Израиля и Ирана.
OpenAI опубликовала первый отчет о том, как инструменты искусственного интеллекта используются для создания пропаганды. Компания утверждает, что сорвала пять операций скрытого влияния, проводимых государственными и частными лицами из россии, Китая, Израиля и Ирана.
В своем отчете, состоящем из 39 страниц, OpenAI заявила, что ее инструменты использовались в пропагандистских кампаниях, в том числе российской группы под названием Doppelganger и китайской Spamouflage, пишет The New York Times.
Doppelganger использовала технологию OpenAI для генерации антиукраинских комментариев, размещенных на X английском, французском, немецком, итальянском и польском языках. Также для перевода и редактирования статей, поддерживавших россию в войне в Украине, на английском и французском языках, а также для превращения антиукраинских новостей в посты в Facebook.
Инструменты OpenAI также использовались в ранее неизвестной российской кампании, направленной на людей в Украине, Молдове, странах Балтии и США, в основном через мессенджер Telegram. Генерировали комментарии на русском и английском языках о войне в Украине, а также о политической ситуации в Молдове и американской политике. Также были использованы инструменты OpenAI для отладки компьютерного кода для запуска бота Telegram.
Политические комментарии получили немного ответов и «лайков», отмечает OpenAI. Иногда усилия также были не слишком изощренными. В одном месте кампания разместила текст, который, очевидно, был сгенерирован искусственным интеллектом: «Как языковая модель искусственного интеллекта, я здесь, чтобы помочь и предоставить нужный комментарий», — говорилось в сообщении. В других случаях текст был написан на плохом английском языке, что заставило OpenAI назвать эту кампанию «Bad Grammar».
«Во всех этих операциях в определенной степени использовался искусственный интеллект, но ни одна из них не использовала его исключительно, — говорится в отчете. «Вместо этого материалы, сгенерированные искусственным интеллектом, были лишь одним из многих типов контента, который они размещали, наряду с более традиционными форматами, такими как тексты, написанные вручную или мемы, скопированные со всего интернета».
OpenAI заявила, что планирует периодически публиковать подобные отчеты о тайных операциях влияния, а также удалять учетные записи, нарушающие ее политику.
