Преступнику, осужденному за создание более 1000 непристойных изображений детей, запретили пользоваться какими-либо «инструментами создания искусственного интеллекта» в течение следующих пяти лет — это первый подобный случай.
Преступнику, осужденному за создание более 1000 непристойных изображений детей, запретили пользоваться какими-либо «инструментами создания искусственного интеллекта» в течение следующих пяти лет — это первый подобный случай.
48-летний Энтони Довер был обязан британским судом «не использовать, не посещать и не получать доступ» к инструментам создания искусственного интеллекта без предварительного разрешения полиции, являющегося условием приказа о предотвращении сексуального ущерба, вынесенного в феврале этого года. Об этом пишет The Guardian.
Запрет запрещает ему использовать такие инструменты, как генераторы текста в изображения, которые могут создавать реалистичные картинки на основе письменной команды, а также вебсайты, использующиеся для создания обнаженных дипфейков.
Доверу, который получил общественное предписание и штраф в размере 200 фунтов стерлингов, также было четко предписано не использовать программное обеспечение Stable Diffusion, использовавшееся педофилами для создания гиперреалистических материалов о сексуальном насилии над детьми.
На прошлой неделе британское правительство объявило о создании нового преступления, которое делает незаконным создание откровенно сексуальных подделок лиц старше 18 лет без их согласия. Осужденным грозит уголовное преследование и неограниченный штраф. Если изображение будет распространено, нарушителей могут посадить в тюрьму.
Ранее этот закон использовался для привлечения к ответственности за преступления, связанные с реалистичными изображениями, например, сделанными с помощью Photoshop.
Недавние случаи свидетельствуют, что его все чаще используют для борьбы с угрозой, которую составляет сложный искусственный контент. В одном деле, рассматривавшемся судом в Англии, обвиняемый, признавший себя виновным в создании и распространении непристойных «псевдофотографий» несовершеннолетних, был освобожден под залог с условием запрета доступа к японской платформе для обмена фотографиями, где он, как утверждается, продавал и распространялся. искусственное изображение насилия.
Сюзи Харгриус, исполнительный директор благотворительной организации, отметила, что, хотя изображения сексуального насилия, созданные с помощью ИИ, составляют «относительно небольшую» долю сообщений, они наблюдают «медленный, но постоянный рост» таких случаев, и что некоторые из этих материалов есть «очень реалистичными». «Мы надеемся, что судебное преследование станет четким сигналом для тех, кто производит и распространяет такой контент, что это незаконно», — сказала она.
Точное количество случаев, связанных со сгенерированными искусственным интеллектом изображениями, неизвестно, поскольку они не учитываются отдельно в официальных данных, а фальшивые изображения бывают трудно отличимыми от подлинных.
Благотворительные организации заявили, что кроме борьбы с обидчиками, технологические компании должны остановить генераторы изображений, которые создают такой контент, в первую очередь. «Это не проблема завтрашнего дня», — сказала Дебора Денис, исполнительный директор LFF.
Решение запретить совершеннолетнему сексуальному преступнику пользоваться инструментами генерации ИИ может создать прецедент для предстоящего мониторинга людей, осужденных за преступления, связанные с непристойным изображением.
Сексуальные преступники уже давно сталкиваются с ограничениями в использовании интернета, например, им запрещают просматривать страницы в режиме «инкогнито», использовать зашифрованные приложения для обмена сообщениями или удалять свою интернет-историю. Но не известно ни одного случая, когда ограничения накладывались на использование инструментов ИИ.
В случае с Доверием непонятно, был ли запрет наложен из-за того, что его правонарушения связаны с контентом, сгенерированным ИИ, или из-за опасений, что он совершит правонарушение в будущем. Такие условия часто требуют прокуроры из оперативной информации, которую имеет полиция. По закону они должны быть конкретными, пропорциональными угрозе и «необходимыми для защиты общества».
Компания Stability AI, создавшая генератор изображений Stable Diffusion, заявила, что беспокойство относительно материалов, содержащих насилие над детьми, связано с более ранней версией программного обеспечения, выпущенной в открытый доступ одним из ее партнеров. Компания заявила, что с момента получения эксклюзивной лицензии в 2022 году она инвестировала в функции по предотвращению злоупотребления, включая «фильтры для перехвата опасных подсказок и результатов». Stability AI добавила, что «запретила любое использование своих услуг для незаконной деятельности».
