На Reddit продают нюдсы, якобы сгенерированные ИИ. История виртуальной Клаудии, разбивающей сердца айтишников

«Клаудия» подделка — набор удивительно убедительных фотографий, сделанных с помощью инструментов искусственного интеллекта, которые, вероятно, используются для обналичивания ничего не подозревающих покупателей, отмечают двое исследователей синтетических медиа.

Быстрый прогресс генераторов изображений с искусственным интеллектом, таких как Midjourney и Stable Diffusion, в последние недели привлек мировое внимание благодаря своим изобретательным произведениям искусства и поразительным подделкам бывших президентов и пап.

Но случай Клаудии намекает на более четкую сторону технологии: позволяя кому бы то ни было создавать изображения фальшивых людей, которые выглядят невероятно подлинными, инструменты изменяют способ создания и потребления порно.

Новая технология годами была пионером благодаря порнографии и инструменты искусственного интеллекта не вышли из этой модели. Тысячи учетных записей сейчас зарегистрированы в дискуссионных досках и чатах, посвященных созданию и совершенствованию синтетических людей, большинство из которых похожи на девушек и женщин — быстрая смена, которая может взорвать многомиллиардную индустрию, взорвать спрос на реальные модели и актеров и подогревает глубокую обеспокоенность активизации и эксплуатации женщин.

Системный администратор в больнице на Среднем Западе — который, как и другие созерцатели порноконтента, опрошенные для этой истории, на условиях анонимности сказал, что он использовал инструменты Stable Diffusion для создания фетишистских фотографий взрослых женщин в подгузниках, и что прогресс в качестве изображений таков, что от настоящих фото их не отличить.

«Я не ожидаю, что человек, на которого я смотрю в интернете, будет тем человеком, за которого себя выдает. Я не собираюсь встречать этого человека в реальной жизни. … В конце концов, если они ненастоящие, кого это действительно волнует?», — отмечает он.

Учетная запись Клаудии (Claudia) не ответила на запросы о комментариях. Но двое студентов, которые сказали, что руководили аккаунтом, сообщили Rolling Stone, что заработали на этой схеме $100.

Исследователи rf;enm, которые содержат несколько явных признаков подделки, включая странные детали фона и родинку на шее, которая исчезала в разных позах «На самом деле его достаточно легко создать», — отмечает программист ИИ.

Кошмар для женщин

Исследователи идентифицировали несколько онлайн-профилей женщин, по их мнению, являются фальшивыми аватарами на основе показательных артефактов, которые оставляют после себя некоторые генераторы изображений искусственного интеллекта.

Используя профили в Instagram, Reddit, Twitter и OnlyFans, аккаунты делились изображениями женщин на разных стадиях раздевания — и сообщали зрителям, что они должны заплатить или подписаться, если хотят увидеть больше.

Подозреваемые фальшивые аккаунты не вышли на связь с журналистами. И поскольку большинство изображений, созданных искусственным интеллектом, не имеют водяных знаков или никаких отпечатков пальцев при создании, любому зрителю может быть сложно проверить, настоящие ли они или нет.

Одна учетная запись опубликовала видео любительского порноактера с Пуэрто-Рико вместе с отредактированными изображениями, на которых показано лицо женщины на чужом теле. Ни фейковый, ни настоящий аккаунт не ответили на запросы о комментариях.

Сотни онлайн-аккаунтов следили за фейковыми порно-аккаунтами и комментировали их, оставляя комментарии, свидетельствующие о том, что они верили, что женщины настоящие.

«Чувствую себя немного обманутым», — говорит пользователь Reddit «legalbeagle1966» после того, как репортер Washington Post сказал ему, что Клаудия, вероятно, мошенница. Неделей ранее он прокомментировал ее фото, что она выглядит достаточно сексуально и идеально.

Как это работает

ИИ теперь может создавать изображения из воздуха. Многие из новейших фальшивых изображений полагаются на программы искусственного интеллекта, известные как диффузные модели, позволяющие кому-либо ввести короткую строчку слов и бесплатно создать фальшивую фотографию. Затем изображение можно редактировать, чтобы сделать их более убедительными, в частности, чтобы скрыть дефекты и улучшить их качество.

Эти инструменты даже проще в использовании, чем программное обеспечение «deepfake», которое вызвало беспокойство по поводу изображений искусственного интеллекта в 2017 году. Там, где deepfakes использовали методы глубокого обучения искусственному интеллекту для редактирования существующих видео, диффузные модели создают совершенно новые фотографии, соблюдая шаблоны, найденные в миллиардах изображения, которые они анализировали ранее.

Но новый класс изображений вызывает много тех же беспокойств, в том числе то, что они могут использоваться для воплощения настоящих женщин. На некоторых форумах пользователи рассказывают о том, как использовать диффузионные модели и другие технологии искусственного интеллекта, например «раскраску», чтобы наложить лица реальных женщин на тела созданных ИИ подделок.

«Но переход к диффузным моделям значительно облегчил создание объема, дисперсии и персонализации. Качество просто лучше, — добавил он. Люди уже хотят поверить в то, что унижает, высмеивает или нацеливает на кого-то, кто им не нравится».

Stability AI, лондонский стартап, стоящий за Stable Diffusion, запрещает людям использовать его для создания изображений, которые «умный человек может считать непристойными, порнографическими».

Но поскольку компания сделала инструмент доступным для скачивания на свой компьютер, у нее нет возможности запретить кому-либо использовать его, чтобы делать все, что они хотят.

Конкуренция настоящему порно

На некоторых форумах, посвященных использованию инструмента для создания порнографии, созданной искусственным интеллектом, даже обсуждается, как этот инструмент можно использовать для создания откровенно сексуальных изображений женщин без их согласия. Люди также поделились руководством о том, как использовать технологию для редактирования реальных изображений, в том числе для удаления одежды женщин, сфотографированных полностью одетыми.

В центре AI-art Clearinghouse Civitai один инструмент, рекламируемый как «Стабильные диффузионные модели для извращенных», который может помочь создать «надреалистическое порно», был загружен более 77 000 раз за последние три месяца. Некоторые общедоступные образцы изображений содержат подсказки, которые авторы использовали для их создания, например «мечтательные черные глаза», «похоть» и «подросток».

Изображения вызвали определенное беспокойство в порноиндустрии по поводу их новой технологической конкуренции. Но не все считают, что дни отрасли сочтены. Марк Спиглер, агент порноактеров, таких как Аса Акира и Райли Рейд, сказал, что звезды в его индустрии являются исполнителями с харизмой, мастерством и привлекательностью, с которыми не может конкурировать ни один ИИ.

Зои Стерлинг, студентка истории искусства и секс-работница из Майами, продающая откровенные фотографии и видео на OnlyFans, сказала, что ее это не волнует.

«Люди, которые говорят, что искусственный интеллект может заменить секс-работников, — это те же люди, которые ведут себя так, будто секс-работники не люди, — сказала она в интервью. Я желаю им удачи и надеюсь, что они смогут понять, что означает согласие. Возможно, они спросят ИИ».

Некоторые женские аватары прямо сообщают зрителям, что они были созданы с помощью Stable Diffusion или других инструментов ИИ. Другие были несколько более изощренными: «Эйлис», аватар из примерно 10 000 фолловеров в Instagram, определяет себя как «жизнь искусственного интеллекта, настоящие настроения».

Но другие, например Клаудия, вообще не указывают своего происхождения. Первое сообщение на Reddit, опубликованное в январе, было длинным откровенно сексуальным отрывком грязных разговоров, на котором несколько пользователей Reddit выражали волнение: «Мне нужна такая хорошая девушка, как ты, — написал один из них.

В аккаунте были размещены другие откровенные отрывки и изображения, в том числе изображения женщины в нижнем белье, и любой, кто нажал на профиль, мог увидеть, что аккаунт описывает себя как 19-летнюю женщину, которая будет продавать частные изображения платным покупателям .

Лишь на прошлой неделе, когда Клаудия опубликовала фотографию «чувствую себя хорошей сегодня» на форуме Reddit, посвященном «изображениям человеческих лиц», люди начали подозревать, что здесь задействован ИИ.

Некоторые пользователи Reddit отметили, что кожа Клаудии выглядит «слишком гладкой, слишком „идеальной“», и обратили внимание на то, что белая, безотчетная комната, в которой она изображена, имела покрывшуюся за ее головой балку на потолке, но не с появилась с другой стороны.

Программист-специалист по искусственному интеллекту, общавшийся с The Post, сказал, что также заметил некоторые технические нестыковки: ширина фотографии, 512 пикселей, является стандартным размером изображения Stable Diffusion.

Пользователь Reddit Lanky_Grade_268, который назвал себя 21-летним уборщиком гостиницы в Аргентине, назвал Клавдию «красивой и очаровательной» и сказал, что его смутило открытие, что она может быть фальшивкой. «Это страшно, потому что будет трудно отличить искусственный интеллект от реального человека», — сказал он.

Но пользователь Reddit Ryan5197, который сказал Клаудии, что она выглядит невероятно, был менее обеспокоен. «Мое мнение об изображении не изменилось, — сказал он. — Она хороший персонаж».

Искусственный интеллект ChaosGPT попросили уничтожить человечество, установить глобальное господство и добиться бессмертия. Вот что произошло в результате

По теме

Искусственный интеллект ChaosGPT попросили уничтожить человечество, установить глобальное господство и добиться бессмертия. Вот что произошло в результате

Midjourney создала серию портретов самых богатых людей мира, превратив их в нищих. Как выглядели бы бедными Трамп, Маск, Цукерберг, Баффет, Гейтс и Безос в индийских дебрях: фото

По теме

Midjourney создала серию портретов самых богатых людей мира, превратив их в нищих. Как выглядели бы бедными Трамп, Маск, Цукерберг, Баффет, Гейтс и Безос в индийских дебрях: фото

Читайте главные IT-новости страны в нашем Telegram

По теме

Читайте главные IT-новости страны в нашем Telegram