Злочинцю, засудженому за створення понад 1000 непристойних зображень дітей, заборонили користуватися будь-якими «інструментами створення штучного інтелекту» протягом наступних п’яти років — це перший подібний відомий випадок
Злочинцю, засудженому за створення понад 1000 непристойних зображень дітей, заборонили користуватися будь-якими «інструментами створення штучного інтелекту» протягом наступних п’яти років — це перший подібний відомий випадок
48-річний Ентоні Довер був зобов’язаний британським судом «не використовувати, не відвідувати та не отримувати доступ» до інструментів створення штучного інтелекту без попереднього дозволу поліції, що є умовою наказу про запобігання сексуальній шкоді, винесеного в лютому цього року. Про це пише The Guardian.
Заборона забороняє йому користуватися такими інструментами, як генератори тексту в зображення, які можуть створювати реалістичні картинки на основі письмової команди, а також вебсайти, які використовуються для створення оголених діпфейків.
Доверу, який отримав громадський припис і штраф у розмірі 200 фунтів стерлінгів, також було чітко наказано не використовувати програмне забезпечення Stable Diffusion, яке, як повідомляється, використовувалося педофілами для створення гіперреалістичних матеріалів про сексуальне насильство над дітьми.
Минулого тижня британський уряд оголосив про створення нового злочину, який робить незаконним створення відверто сексуальних підробок осіб старше 18 років без їхньої згоди. Засудженим загрожує кримінальне переслідування та необмежений штраф. Якщо зображення буде розповсюджене, порушників можуть посадити до в’язниці.
Раніше цей закон використовував для притягнення до відповідальності за злочини, пов’язані з реалістичними зображеннями, наприклад, зробленими за допомогою Photoshop.
Нещодавні випадки свідчать про те, що його все частіше застосовують для боротьби із загрозою, яку становить складний штучний контент. В одній справі, що розглядалася судом в Англії, обвинувачений, який визнав себе винним у створенні та розповсюдженні непристойних «псевдофотографій» неповнолітніх, був звільнений під заставу з умовою заборони доступу до японської платформи для обміну фотографіями, де він, як стверджується, продавав і розповсюджував штучні зображення насильства.
Сюзі Харгрівс, виконавчий директор благодійної організації, зазначила, що, хоча зображення сексуального насильства, створені за допомогою ШІ, наразі становлять «відносно невелику» частку повідомлень, вони спостерігають «повільне, але постійне зростання» таких випадків, і що деякі з цих матеріалів є «дуже реалістичними». «Ми сподіваємося, що судове переслідування стане чітким сигналом для тих, хто виробляє і поширює такий контент, що це незаконно», — сказала вона.
Точна кількість випадків, пов’язаних зі згенерованими штучним інтелектом зображеннями, невідома, оскільки вони не враховуються окремо в офіційних даних, а фальшиві зображення буває важко відрізнити від справжніх.
Благодійні організації заявили, що, окрім боротьби з кривдниками, технологічні компанії повинні зупинити генератори зображень, які створюють такий контент, в першу чергу. «Це не проблема завтрашнього дня», — сказала Дебора Деніс, виконавчий директор LFF.
Рішення заборонити повнолітньому сексуальному злочинцю користуватися інструментами генерації ШІ може створити прецедент для майбутнього моніторингу людей, засуджених за злочини, пов’язані з непристойним зображенням.
Сексуальні злочинці вже давно стикаються з обмеженнями у використанні інтернету, наприклад, їм забороняють переглядати сторінки в режимі «інкогніто», користуватися зашифрованими додатками для обміну повідомленнями або видаляти свою інтернет-історію. Але не відомо жодного випадку, коли б обмеження накладалися на використання інструментів ШІ.
У випадку з Довером незрозуміло, чи заборона була накладена через те, що його правопорушення пов’язані з контентом, згенерованим ШІ, чи через побоювання, що він вчинить правопорушення в майбутньому. Такі умови часто вимагають прокурори на підставі оперативної інформації, яку має поліція. Згідно із законом, вони повинні бути конкретними, пропорційними загрозі та «необхідними для захисту суспільства».
Компанія Stability AI, яка створила генератор зображень Stable Diffusion, заявила, що занепокоєння щодо матеріалів, які містять насильство над дітьми, пов’язане з більш ранньою версією програмного забезпечення, яка була випущена у відкритий доступ одним з її партнерів. Компанія заявила, що з моменту отримання ексклюзивної ліцензії у 2022 році вона інвестувала в функції для запобігання зловживанню, включно з «фільтрами для перехоплення небезпечних підказок і результатів». Stability AI додала, що «заборонила будь-яке використання своїх послуг для незаконної діяльності».
Нагадаємо, що dev.ua розповідав про київський стартап Makenude.ai, який «роздягає» жінок на фото за гроші. Тож, редакція звернулася до юристів за роз’ясненням і отримала розгорнуті відповіді на три питання: щодо порушення прав людини на фото, чи можна вважати, що цей сервіс розповсюджує порно, а також, хто несе відповідальність.
