На Reddit продають нюдси, нібито згенеровані ШІ. Історія віртуальної Клаудії, що розбиває серця айтішників

«Клаудія» підробка — набір напрочуд переконливих фотографій, зроблених за допомогою інструментів штучного інтелекту, які, ймовірно, використовуються для отримання готівки від нічого не підозрюючих покупців, зазначають двоє дослідників синтетичних медіа.

Швидкий прогрес генераторів зображень зі штучним інтелектом, таких як Midjourney і Stable Diffusion, останніми тижнями привернув світову увагу завдяки своїм винахідливим творам мистецтва та дивовижним підробкам колишніх президентів і пап.

Але випадок Клаудії натякає на чіткішу сторону технології: дозволяючи будь-кому створювати зображення фальшивих людей, які виглядають неймовірно справжніми, інструменти змінюють спосіб створення та споживання порно.

Нова технологія роками була піонером завдяки порнографії, і інструменти штучного інтелекту не вийшли з цієї моделі. Тисячі облікових записів зараз зареєстровані в дискусійних дошках і чатах, присвячених створенню та вдосконаленню синтетичних людей, більшість із яких схожі на дівчат і жінок — швидка зміна, яка може підірвати багатомільярдну індустрію, підірвати попит на реальні моделі та акторів і підігріває глибше занепокоєння щодо об’єктивізації та експлуатації жінок.

Системний адміністратор у лікарні на Середньому Заході — який, як і інші споглядачі порноконтенту, опитані для цієї історії, на умовах анонімності сказав, що він використовував інструменти Stable Diffusion для створення фетишистських фотографій дорослих жінок у підгузках, і що прогрес у якості зображень такий, що від справжніх фото їх не відрізнити. 

«Я не очікую, що людина, на яку я дивлюся в інтернеті, буде тією людиною, за яку себе видає. Я не збираюся зустрічати цю людину в реальному житті. … Зрештою, якщо вони несправжні, кого це насправді хвилює?», — зазначає він.

Обліковий запис Клаудії (Claudia) не відповів на запити про коментарі. Але двоє студентів, які сказали, що керували обліковим записом, повідомили Rolling Stone, що заробили на цій схемі $100.

Дослідники кажуть, що фотографії містять кілька явних ознак підробки, включаючи дивні деталі фону та родимку на шиї, яка зникала у різних позах «Насправді його досить легко створити», — зазначає програміст ШІ.

Кошмар для жінок

Дослідники ідентифікували кілька онлайн-профілів жінок, які, на їхню думку, є фальшивими аватарами на основі показових артефактів, які залишають після себе деякі генератори зображень штучного інтелекту.

Використовуючи профілі в Instagram, Reddit, Twitter і OnlyFans, облікові записи ділилися зображеннями жінок на різних стадіях роздягання — і повідомляли глядачам, що вони повинні заплатити або підписатися, якщо хочуть побачити більше.

Підозрювані фальшиві облікові записи не вийшли на зв’язок із журналістами. І оскільки більшість зображень, створених штучним інтелектом, не мають водяних знаків або жодних відбитків пальців під час створення, будь-якому глядачеві може бути складно перевірити, справжні вони чи ні.

Один обліковий запис опублікував відео аматорського порноактора з Пуерто-Рико разом із відредагованими зображеннями, на яких показано обличчя жінки на чужому тілі. Ні фейковий, ні справжній акаунт не відповіли на запити про коментарі.

Сотні онлайн-акаунтів стежили за фейковими порно-акаунтами та коментували їх, залишаючи коментарі, які свідчили про те, що вони вірили, що жінки справжні.

«Відчуваю себе трохи обдуреним», — каже користувач Reddit «legalbeagle1966» після того, як репортер Washington Post сказав йому, що Клаудія, ймовірно, шахрайка. Тижнем раніше він прокоментував її фото, що вона виглядає «досить сексуально та ідеально».

Як це працює

ШІ тепер може створювати зображення з повітря. Багато з найновіших фальшивих зображень покладаються на програми штучного інтелекту, відомі як дифузійні моделі, які дають будь-кому ввести короткий рядок слів і безплатно створити фальшиву фотографію. Потім зображення можна ще більше редагувати, щоб зробити їх переконливішими, зокрема, щоб приховати дефекти та покращити їхню якість.

Ці інструменти навіть простіші у використанні, ніж програмне забезпечення «deepfake», яке викликало занепокоєння щодо зображень штучного інтелекту у 2017 році. Там, де deepfakes використовували методи глибокого навчання штучного інтелекту для редагування наявних відео, дифузійні моделі створюють абсолютно нові фотографії, дотримуючись шаблонів, знайдених у мільярдах зображення, які вони аналізували раніше.

Але новий клас зображень викликає багато тих же занепокоєнь, зокрема те, що вони можуть використовуватися для втілення справжніх жінок. На деяких форумах користувачі розповідають про те, як використовувати дифузійні моделі та інші технології штучного інтелекту, як-от «розмальовування», щоб накласти обличчя реальних жінок на тіла створених ШІ підробок.

«Але перехід до дифузійних моделей значно полегшив створення об’єму, дисперсії та персоналізації. Якість просто краща, — додав він. Люди вже хочуть повірити в те, що принижує, висміює або націлює на когось, хто їм не подобається».

Stability AI, лондонський стартап, що стоїть за Stable Diffusion, забороняє людям використовувати його для створення зображень, які «розумна людина може вважати непристойними, порнографічними».

Але оскільки компанія зробила інструмент доступним для завантаження на свій комп’ютер, у неї немає можливості заборонити будь-кому використовувати його, щоб робити все, що вони хочуть.

Конкуренція справжньому порно

На деяких форумах, присвячених використанню інструменту для створення порнографії, згенерованої штучним інтелектом, навіть обговорюється, як цей інструмент можна використовувати для створення відверто сексуальних зображень жінок без їхньої згоди. Люди також поділилися посібниками про те, як використовувати технологію для редагування реальних зображень, у тому числі для видалення одягу жінок, які були сфотографовані повністю одягненими.

У центрі AI-art Clearinghouse Civitai один інструмент, рекламований як «Стабільні дифузійні моделі для збочених», який може допомогти створити «надреалістичне порно», було завантажено понад 77 000 разів за останні три місяці. Деякі загальнодоступні зразки зображень містять підказки, які автори використовували для їх створення, як-от «мрійливі чорні очі», «хіть» і «підліток».

Зображення викликали певне занепокоєння в порноіндустрії щодо їхньої нової технологічної конкуренції. Але не всі вважають, що дні галузі полічені. Марк Спіглер, агент порноакторів, таких як Аса Акіра та Райлі Рейд, сказав, що зірки в його індустрії є виконавцями з харизмою, майстерністю та привабливістю, з якими не може конкурувати жоден ШІ.

Зої Стерлінг, студентка історії мистецтва та секс-працівниця з Маямі, яка продає відверті фотографії та відео на OnlyFans, сказала, що її це не хвилює.

«Люди, які кажуть, що штучний інтелект може замінити секс-працівників, — це ті самі люди, які поводяться так, ніби секс-працівники не є людьми, — сказала вона в інтерв’ю. Я бажаю їм удачі й сподіваюся, що вони зможуть зрозуміти, що означає „згода“. Можливо, вони запитають ШІ».

Деякі жіночі аватари прямо повідомляють глядачам, що вони були створені за допомогою Stable Diffusion або інших інструментів ШІ. Інші були дещо витонченішими: «Ейліс», аватар із приблизно 10 000 фоловерів в Instagram, визначає себе як «життя штучного інтелекту, справжні настрої».

Але інші, як-от Клаудія, взагалі не вказують свого походження. Перший допис на Reddit, опублікований у січні, був довгим відверто сексуальним уривком брудних розмов, на якому кілька користувачів Reddit висловлювали хвилювання: «Мені потрібна така хороша дівчина, як ти, — написав один з них. 

В обліковому записі були розміщені інші відверті уривки та зображення, у тому числі зображення жінки в спідній білизні, і будь-хто, хто натиснув на профіль, міг побачити, що обліковий запис описує себе як 19-річну жінку, яка продаватиме приватні зображення платним покупцям.

Лише минулого тижня, коли Клаудія опублікувала фотографію «почуваюся гарною сьогодні» на форумі Reddit, присвяченому «зображенням людських облич», люди почали підозрювати, що тут залучений ШІ.

Деякі користувачі Reddit зазначили, що шкіра Клаудії виглядає «занадто гладкою, надто „ідеальною“», і звернули увагу на те, що біла, безвиразна кімната, в якій вона зображена, мала балку на стелі, яка зникла за її головою, але не з’явилася з іншого боку.

Програміст-фахівець зі штучного інтелекту, який спілкувався з The Post, сказав, що також помітив деякі технічні нестикування: ширина фотографії, 512 пікселів, є стандартним розміром зображення Stable Diffusion.

Користувач Reddit «Lanky_Grade_268», який назвав себе 21-річним прибиральником готелю в Аргентині, назвав Клавдію «красивою та чарівною» і сказав, що його збентежило відкриття, що вона може бути фальшивкою. «Це страшно, тому що буде важко відрізнити штучний інтелект від реальної людини», — сказав він.

Але користувач Reddit «Ryan5197», який сказав Клаудії, що вона виглядає «неймовірно», був менш занепокоєний. «Моя думка про зображення не змінилася, — сказав він. — Вона — гарний персонаж».

Штучний інтелект ChaosGPT попросили знищити людство, встановити глобальне панування та досягти безсмертя. Ось що сталося в результаті

По темi

Штучний інтелект ChaosGPT попросили знищити людство, встановити глобальне панування та досягти безсмертя. Ось що сталося в результаті

Midjourney створила серію портретів найзаможніших людей світу, перетворивши їх на жебраків.  Як виглядали б бідними Трамп, Маск, Цукерберг, Баффет, Гейтс та Безос у індійських нетрях: фото

По темi

Midjourney створила серію портретів найзаможніших людей світу, перетворивши їх на жебраків.  Як виглядали б бідними Трамп, Маск, Цукерберг, Баффет, Гейтс та Безос у індійських нетрях: фото

Читайте головні IT-новини країни в нашому Telegram

По темi

Читайте головні IT-новини країни в нашому Telegram