🚀 Trustee Plus - ваш криптогаманець з вбудованою платіжною карткою тут 👉
Марія БровінськаГоряченькое
21 мая 2023, 10:37
2023-05-21
Forbes: ИИ создает порнографические дипфейки с фото реальных людей, пользователи выкладывают их на Reddit, Twitter и Instagram. Как это возможно?
Forbes Украина адаптировала рассказ глобального Forbes о том, что искусственный интеллект добрался до создания порнографических дипфейков, используя настоящие фото людей из сети без их согласия. Как появляется порнографический контент авторства искусственного интеллекта на популярной платформе Reddit и как работает ИИ-порноиндустрия — интересный вопрос.
Forbes Украина адаптировала рассказ глобального Forbes о том, что искусственный интеллект добрался до создания порнографических дипфейков, используя настоящие фото людей из сети без их согласия. Как появляется порнографический контент авторства искусственного интеллекта на популярной платформе Reddit и как работает ИИ-порноиндустрия — интересный вопрос.
Платформа Reddit давно является убежищем для порнографии, разрешенной на сайте, если актеры/модели согласны на создание такого контента. Когда же ШИ-инструменты для генерирования изображения стали широкодоступны, на платформу полился поток порнографических фото авторства ШИ, где их могут созерцать 57 млн пользователей соцсети.
Это ненастоящие фото, но ШИ-инструменты были обучены на фотографиях людей, которые на съемки для такого контента не соглашались.
«Основная проблема с ИИ-порно в том, что для его создания используют украденные изображения людей, в большинстве своем это женщины», — объясняет Ноэль Мартин, жертва дипфейков сексуального характера и исследовательница Университета Западной Австралии.
14 форумов для искусственного порно
Forbes нашел 14 сабреддитов (форумов), посвященных ИИ-порно. 10 из них были созданы за последние два месяца. У каждого сабреддета тысячи участников и посещений еженедельно.
Один из самых популярных — r/unstable_diffusion, его открыли в сентябре 2022-го, сейчас там 54 000 участников. К другому сабреддиту присоединились более 60 000 человек.
Reddit предлагает функцию безопасного поиска, чтобы скрывать «взрослый контент». Если ее отключить, запрос AI porn (ИИ-порно) выдает более двух десятков форумов, где можно найти материалы сексуального характера авторства ИИ. Там некоторые пользователи просят сделать или продают порнографические дипфейки реальных людей.
Магнит для аудитории
Генераторы изображений, которые создают ИИ-порно, тренируют на миллионах изображений реальных людей, которые об этом и не догадываются, а также фото, принадлежащие конкретным юридическим или физическим лицам, объясняют эксперты.
Одна жертва секс-трафикинга, которую вместе с другими женщинами заставляли заниматься сексом на камеру, рассказала, что считает использование фото и видео с ней для тренировки ИИ систем нарушением ее права на конфиденциальность. Женщина анонимно рассказала Forbes, что откровенные видео с ней выставили на Reddit и другие сайты без согласия, но потом их удалили.
«Теперь те, у кого есть видео со мной, могут создавать новые порноролики, распространять их, и все это с помощью ИИ. Я не могу контролировать этот процесс, как и не могу остановить его», — возмущается женщина.
ШИ-порно появляется и на других платформах, таких как Twitter и Instagram, но именно на Reddit этот контент процветает. Причина в том, что платформа позволяет пользователям сохранять анонимность и не запрещает распространение взрослого контента.
Феномен Reddit
Reddit использовалась для тренировки больших языковых моделей, и теперь компания требует оплату за услуги. В недавнем интервью New York Times гендиректор компании Reddit Стив Хаффман заявил, что хочет, чтобы Google, Microsoft и OpenAI заплатили его компании за данные с платформы, которые они использовали для тренировки своих алгоритмов.
Теперь, когда ИИ-инструменты для генерирования изображения становятся широкодоступными, на платформу полился поток порнографических фотографий авторства ИИ, где их могут созерцать 57 млн пользователей соцсети.
«Данные Reddit очень ценны, но мы не должны раздавать их одной из крупнейших компаний в мире тупо», — сказал Хаффман. Reddit недавно объявила, что закроет данные своего прикладного программного интерфейса (API), открытые с 2008-го. Компания планирует брать деньги с третьих сторон за премиум-доступ к ним.
С поддержкой таких тяжеловесов как Andreessen Horowitz и Sequoia Capital, Reddit в последний раз оценили в $10 млрд после того, как компания привлекла $700 млн инвестиций в августе 2021-го.
Общие инвестиции в компанию составляют $1,9 млрд, а по некоторым сообщениям она планирует выход на биржу в 2023-м. По оценке Statista, в 2021 у Reddit было $470 млн выручки преимущественно благодаря рекламе и премиальной подписке.
И хотя Reddit утверждает, что не демонстрирует рекламу и не монетизирует взрослый контент на сайте, эксперты говорят, что открытое разрешение на такие материалы, настоящие или синтезированные, привлекают на сайт больше людей.
«Даже если они не ставят рекламу в сабреддитах, они все равно выигрывают от того, что людей привлекает такой контент», — объясняет Софи Мэддокс, исследовательница сексуального кибернасилия.
Монетизация ИИ-порно
В то время как на Reddit десятки миллионов ее пользователей могут выставить и найти ШИ-порно, существует целая категория ШИ-порносайтов, которая монетизирует этот контент.
Большинство ШИ-генераторов порно, например PornJourney, PornPen, PornJoy и SoulGen, требуют премиальной подписки за пользование. Они связаны с аккаунтами Discord или Patreon, которыми управляют анонимные пользователи.
На сайтах таких ШИ-генераторов имеется широкий ассортимент ШИ-порно, который можно сортировать по национальной принадлежности и особенностям фигуры «моделей». Также есть инструкции для пользователей, желающих создать свой порноролик с помощью ИИ-генератора.
PornJourney была создана и запущена в марте 2023-го; за $15 в месяц этот сайт предлагает создавать «ШИ-девушек», которые выглядят «реальными и похожими на людей».
На сайтах нет информации о том, как тренируют модели ИИ-генераторов и на каких визуальных материалах. Но они отмечают удобный дисклеймер: «Если любой контент, сгенерированный на этом сайте, напоминает реальных людей, это абсолютная случайность. Этот ИИ отражает предупреждения и ошибки, имеющиеся в тренировочных данных».
Один из таких генераторов, PornJourney, был создан и запущен в марте 2023 года. За $15 в месяц этот сайт предлагает создавать «ШИ-девушек», которые выглядят «реальными и похожими на людей».
«Обеспечивать пользователей аутентичными и детализированными фотографиями ШИ-девушек дорого, поэтому мы постоянно инвестируем в наши серверы», — написано в разделе FAQ сайта.
PornPen, у которого 2 млн ежемесячных пользователей и 12 000 платных подписчиков ($15/месяц), создан на основе ШИ-модели Stable Diffusion. Генератор порноматериалов этого сайта использует изображение из хранилища LAION, в котором около 6 млн фото, взятых из публично доступных источников в сети. «Мы рекомендуем использовать эти данные для исследований», отмечает LAION, который является неприбыльным сайтом.
Forbes нашел по крайней мере пять GitHub-хранилищ, которые можно использовать для получения фото и видео с таких сайтов как PornHub и Xvideos, а также из Twitter, Instagram и TikTok, чтобы тренировать ШИ-системы. PornHub и Xvideos не ответили Forbes на просьбу прокомментировать ситуацию.
Известные женщины, политики и журналистки чаще всего становятся жертвами ИИ-порно из-за большого количества их изображений в сети, добавляет Русей. Эти же категории населения чаще всего используют для создания дипфейков.
Что говорит Reddit по поводу порно
Соцсеть Reddit пыталась четко определить свою позицию по поводу нового вида сексуального контента. Платформа запретила выставлять материалы сексуального характера, созданные без согласия «актеров/моделей».
Это касается «фейкового графического контента», то есть ИИ-дипфейков. Сайт также запрещает, по словам спикера Reddit, «сгенерированные искусственным интеллектом материалы, выставляемые в обманчивом контексте».
Reddit утверждает, что использует комбинацию автоматизированных инструментов и собственную команду безопасности для определения и удаления созданного без согласия сексуального контента с сайта. Но это не помогает найти все нарушения.
Никола Генри, изучающая 20 лет технологическое сексуальное насилие в Королевском технологическом институте Мельбурна, говорит, что по сравнению с порнографическими дипфейками ИИ-порно может сначала показаться чем-то невинным. Но если присмотреться, то на некоторых изображениях видно, что ИИ, возможно, тренировали на фото несовершеннолетних.
«На некоторых ИИ-фото, которые я видела на Reddit, лица не похожи на лица взрослых женщин, а скорее на лица несовершеннолетних девушек. Это вызывает беспокойство, ведь будь они настоящими, то их можно было бы квалифицировать как контент с насилием над детьми», — говорит исследовательница.
Даже если эти инструменты используются для сексуального самовыражения и исследования, они способствуют развитию нереалистичных и нездоровых ожиданий относительно тел людей и сексуальных отношений. Все из-за данных, используемых для тренировки этих инструментов, отмечает Софи Мэддокс, исследовательница сексуального кибернасилия.
Эти инструменты учатся на реальных текстах и изображениях, если попросить их сгенерировать фото маргинализованной группы, то часто они не могут ничего выдать, — говорит она.
Порноактеры и платформы, где можно найти их работы, зарабатывают на подписках и рекламе, объясняет Мэддокс. Но пока этим актерам не платят, если их изображения используются для создания порно. Вполне возможно, что порноиндустрия станет протестовать против бесплатного использования их материалов, как это сделали художники и фотобанки, предполагает исследовательница.
Но даже после удаления сабреддитов из ИИ-порно контент все равно продолжает распространяться соцсетью Reddit. «У меня такое впечатление, что с Reddit ты можешь расширить рамки дозволенного так, как это невозможно на других платформах», — говорит Мэддокс.
Читайте главные IT-новости страны в нашем Telegram
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
«Задерживать за нюдсы – нонсенс». Интервью с автором петиции о легализации эротики и порно в Украине
4 июля на сайте президента появилась петиция о легализации эротики и порно в Украине. Мы связались с ее автором — львовянином Тарасом Сиромским — и узнали, в чем, по его мнению, проблема с откровенным контентом.
