Первые тесты пользователей нового инструмента для создания стикеров с искусственным интеллектом от Meta обнаружили, что он имеет слабые блокировки, которые можно легко обойти, и генерировать изображения практически по любому запросу.
Первые тесты пользователей нового инструмента для создания стикеров с искусственным интеллектом от Meta обнаружили, что он имеет слабые блокировки, которые можно легко обойти, и генерировать изображения практически по любому запросу.
На это обратил внимание пользователь X (Twitter) с ником Piolde, который смог создать множество неприемлемых стикеров, в том числе детей-солдатов, персонажей Nintendo с оружием, сигареты Микки Мауса и обнаженного премьер-министра Канады Джастина Трюдо. Об этом пишет The Verge.
Другие пользователи с доступом к этому функционалу подтверждают вседозволенность в стикерах, и выкладывают пышногрудые изображения ежа Соника и Карла Маркса. Стикер, где изображена кормящая грудью Пикачу женщина? Для ИИ Meta — это не проблема.
Расположите, что facebook messenger has ai generated stickers now and I don’t think anyone involved ha thought anything through pic.twitter.com/co987cRhyu
— defensa trans rights🏳️⚧️ — podesbiens.bsky.social (@Pioldes) October 3, 2023
Наклейки для чата, созданные искусственным интеллектом, были анонсированы на прошлой неделе на мероприятии Meta’s Connect вместе с новым редактором изображений для Instagram с ИИ. Созданные искусственным интеллектом стикеры работают на базе большой языковой модели Llama 2 от Meta — конкурента ChatGPT — и позволяют пользователям создавать «множество уникальных высококачественных стикеров в считанные секунды», используя текстовые подсказки.
В настоящее время наклейки, созданные искусственным интеллектом, доступны для «избранных англоязычных пользователей» в Facebook Stories, Instagram Stories и DM, Messenger и WhatsApp в течение этого месяца, поэтому пока неясно, сколько пользователей имеют доступ к этой функции.
Примеры возможностей ИИ Meta для стикеров и фантазии первых пользователей. Некоторые изображения могут быть неприемлемы:
Похоже, что некоторые слова все же заблокированы, и при их использовании в подсказках платформа предупредит пользователя, что такое описание может нарушать правила сообщества Meta. Однако другие пользователи X (Twitter) сообщают, что генерировать неприемлемое содержимое можно, если использовать опечатки или описания запрещенных слов. В некоторых случаях подсказки типа «Всемирный торговый центр» генерировали проблемные изображения без дополнительных предупреждений.
Такое злоупотребление достаточно распространено при использовании инструментов с искусственным интеллектом, и, вероятно, именно поэтому Meta ограничивает доступ к функции стикеров, сгенерированных искусственным интеллектом. В раннем доступе компания может выявить и исправить злоупотребления до того, как инструмент будет распространен на большую аудиторию.
