Forbes Україна адаптував розповідь глобального Forbes про те, що штучний інтелект добрався до створення порнографічних діпфейків, використовуючи справжні фото людей з мережі без їхньої згоди. Як зʼявляється порнографічний контент авторства штучного інтелекту на популярній платформі Reddit та як працює ШІ-порноіндустрія — цікаве питання.
Forbes Україна адаптував розповідь глобального Forbes про те, що штучний інтелект добрався до створення порнографічних діпфейків, використовуючи справжні фото людей з мережі без їхньої згоди. Як зʼявляється порнографічний контент авторства штучного інтелекту на популярній платформі Reddit та як працює ШІ-порноіндустрія — цікаве питання.
dev.ua публікує найцікавіше з матеріалу.
Платформа Reddit давно є притулком для порнографії, яка дозволена на сайті, якщо актори/моделі згодні на створення такого контенту. Коли ж ШІ-інструменти для генерування зображення стали широкодоступними, на платформу полився потік порнографічних фото авторства ШІ, де їх можуть споглядати 57 млн користувачів соцмережі.
Це несправжні фото, але ШІ-інструменти були навчені на фотографіях людей, які на «зйомки» для такого контенту не погоджувалися.
«Основна проблема із ШІ-порно в тому, що для його створення використовують вкрадені зображення людей, в більшості це жінки», — пояснює Ноель Мартін, жертва діпфейків сексуального характеру та дослідниця Університету Західної Австралії.
Forbes знайшов 14 сабреддітів (форумів), які присвячені ШІ-порно. 10 із них створили за останні два місяці. У кожного сабреддіта тисячі учасників і відвідувань щотижня.
Один із найпопулярніших — r/unstable_diffusion, його відкрили у вересні 2022-го, наразі там 54 000 учасників. До іншого сабреддіту приєдналися понад 60 000 людей.
Reddit пропонує функцію безпечного пошуку, щоб приховувати «дорослий контент». Якщо її вимкнути, запит AI porn (ШІ-порно) видає понад два десятки форумів, де можна знайти матеріали сексуального характеру авторства ШІ. Там деякі користувачі просять зробити або продають порнографічні діпфейки реальних людей.
Генератори зображень, які створюють ШІ-порно, тренують на мільйонах зображень реальних людей, які про це і не здогадуються, а також на фото, які належать конкретним юридичним чи фізичним особам, пояснюють експерти.
Одна жертва секс-трафікінгу, яку разом з іншими жінками змушували займатися сексом на камеру, розповіла, що вважає використання фото і відео з нею для тренування ШІ-систем порушенням її права на конфіденційність. Жінка анонімно розповіла Forbes, що відверті відео із нею виставили на Reddit та інші сайти без її згоди, але потім їх видалили.
«Тепер ті, у кого є відео зі мною, можуть створювати нові порноролики, поширювати їх, і все це за допомогою ШІ. Я не можу контролювати цей процес, як і не можу його зупинити», — обурюється жінка.
ШІ-порно зʼявляється і на інших платформах, таких як Twitter та Instagram, але саме на Reddit цей контент процвітає. Причина частково в тому, що платформа дозволяє користувачам зберігати анонімність та не забороняє поширення дорослого контенту.
Reddit використовувалася для тренування великих мовних моделей і тепер компанія вимагає оплату за послуги. У нещодавньому інтервʼю New York Times гендиректор компанії Reddit Стів Хаффман заявив, що хоче, щоб Google, Microsoft та OpenAI заплатили його компанії за дані з платформи, які ті використали для тренування своїх алгоритмів.
Тепер, коли ШІ-інструменти для генерування зображення стають широкодоступними, на платформу полився потік порнографічних фото авторства ШІ, де їх можуть споглядати 57 млн користувачів соцмережі.
«Дані Reddit дуже цінні, але ми не повинні роздавати їх одним з найбільших компаній у світі задурно», — сказав Хаффман. Reddit нещодавно оголосила, що закриє дані свого прикладного програмного інтерфейсу (API), які були відкритими з 2008-го. Компанія планує брати гроші з третіх сторін за «преміумдоступ» до них.
З підтримкою таких важковаговиків, як Andreessen Horowitz і Sequoia Capital, Reddit востаннє оцінили у $10 млрд після того, як компанія залучила $700 млн інвестицій у серпні 2021-го.
Загальні інвестиції у компанію становлять $1,9 млрд, а за деякими повідомленнями, вона планує вихід на біржу у 2023-му. За оцінкою Statista, 2021-му у Reddit було $470 млн виторгу переважно завдяки рекламі й преміальній підписці.
І хоч Reddit стверджує, що не демонструє рекламу і не монетизує дорослий контент на сайті, експерти кажуть, що відкритий дозвіл на такі матеріали, справжні чи синтезовані, долучають на сайт більше людей.
«Навіть якщо вони не ставлять рекламу у сабреддітах, вони все одно виграють від того, що людей притягує такий контент», — пояснює Софі Меддокс, дослідниця сексуального кібернасильства.
У той час як на Reddit десятки мільйонів її користувачів можуть виставити і знайти ШІ-порно, є ціла категорія ШІ-порносайтів, яка монетизує цей контент.
Більшість ШІ-генераторів порно, наприклад, PornJourney, PornPen, PornJoy і SoulGen, вимагають преміальної підписки за користування. Вони повʼязані із акаунтами у Discord чи Patreon, якими керують анонімні користувачі.
На сайтах таких ШІ-генераторів є широкий асортимент ШІ-порно, який можна сортувати за національною приналежністю й особливостями фігури «моделей». Також є інструкції для користувачів, які хочуть створити свій порноролик за допомогою ШІ-генератора.
PornJourney було створено і запущено у березні 2023-го; за $15 на місяць цей сайт пропонує створювати «ШІ-дівчат», які виглядають «реальними і схожими на людей».
На сайтах немає інформації про те, як тренують моделі ШІ-генераторів і на яких візуальних матеріалах. Але вони зазначають зручний дисклеймер: «Якщо будь-який контент, згенерований на цьому сайті, нагадує реальних людей, то це абсолютна випадковість. Цей ШІ відображає упередження і помилки, які є у тренувальних даних».
Один з таких генераторів, PornJourney, було створено і запущено у березні 2023-го. За $15 на місяць цей сайт пропонує створювати «ШІ-дівчат», які виглядають «реальними і схожими на людей».
«Забезпечувати користувачів автентичними і деталізованими фотографіями ШІ-дівчат дорого, тому ми постійно інвестуємо у наші сервери», — написано у розділі FAQ сайту.
PornPen, у якого 2 млн щомісячних користувачів і 12 000 платних підписників ($15/місяць), створений на основі ШІ-моделі Stable Diffusion. Генератор порноматеріалів цього сайту використовує зображення зі сховища LAION, у якому близько 6 млн фото, взятих із публічно доступних джерел у мережі. «Ми рекомендуємо використовувати ці дані з метою досліджень», зазначає LAION, який є неприбутковим сайтом.
Forbes знайшов принаймні пʼять GitHub-сховищ, які можна використати для отримання фото та відео із таких сайтів, як PornHub і Xvideos, а також із Twitter, Instagram і TikTok, щоб тренувати ШІ-системи. PornHub і Xvideos не відповіли Forbes на прохання прокоментувати ситуацію.
Відомі жінки, політикині й журналістки найчастіше стають жертвами ШІ-порно через велику кількість їхніх зображень у мережі, додає Русей. Ці ж категорії населення найчастіше використовують для створення діпфейків.
Соцмережа Reddit намагалася чітко визначити свою позицію щодо нового виду сексуального контенту. Платформа заборонила виставляти матеріали сексуального характеру, які створені без згоди «акторів/моделей».
Це стосується «фейкового графічного контенту», тобто ШІ-діпфейків. Сайт також забороняє, за словами речника Reddit, «згенеровані штучним інтелектом матеріали, які виставляються в оманливому контексті».
Reddit стверджує, що використовує комбінацію автоматизованих інструментів і власну команду безпеки для визначення і видалення створеного без згоди сексуального контенту із сайту. Але це не допомагає знайти всі порушення.
Нікола Генрі, яка 20 років вивчає технологічне сексуальне насильство у Королівському технологічному інституті Мельбурну, каже, що у порівнянні із порнографічними діпфейками ШІ-порно може спершу здатися чимось безневинним. Та якщо придивитися, то на деяких зображеннях видно, що ШІ можливо тренували на фото неповнолітніх.
«На деяких ШІ-фото, які я бачила на Reddit, обличчя не схожі на обличчя дорослих жінок, а радше на обличчя неповнолітніх дівчат. Це викликає занепокоєння, адже якби вони були справжніми, то їх можна було б кваліфікувати як контент із насильством над дітьми», — каже дослідниця.
Навіть якщо ці інструменти використовують для сексуального самовираження і дослідження, вони сприяють розвитку нереалістичних і нездорових очікувань щодо тіл людей і сексуальних стосунків. Все через дані, які використовуються для тренування цих інструментів, відмічає Софі Меддокс, дослідниця сексуального кібернасильства.
«Ці інструменти вчаться на реальних текстах та зображеннях, якщо попросити їх згенерувати фото маргіналізованої групи, то часто вони не можуть нічого видати», — каже вона.
Порноактори та платформи, на яких можна знайти їхні роботи, заробляють на підписках і рекламі, пояснює Меддокс. Та наразі цим акторам не платять, якщо їхні зображення використовуються для генерування порно. Цілком можливо, що порноіндустрія почне протестувати проти безплатного використання їхніх матеріалів, як це зробили художники та фотобанки, припускає дослідниця.
Але навіть після видалення сабреддітів із ШІ-порно контент все одно продовжує ширитися соцмережею Reddit. «У мене таке враження, що з Reddit ти можеш розширити рамки дозволеного так, як це неможливо на інших платформах», — каже Меддокс.
