Перші тести користувачів нового інструменту для створення стікерів зі штучним інтелектом від Meta виявили, що він має застереження, які легко обійти, і може генерувати зображення практично за будь-яким запитом.
Перші тести користувачів нового інструменту для створення стікерів зі штучним інтелектом від Meta виявили, що він має застереження, які легко обійти, і може генерувати зображення практично за будь-яким запитом.
На це звернув увагу користувач X (Twitter) із ніком Piolde, який зміг створити безліч неприйнятних стікерів, зокрема дітей-солдатів, персонажів Nintendo зі зброєю, Мікі Мауса, який смалить цигарки, й оголеного прем'єр-міністра Канади Джастіна Трюдо. Про це пише The Verge.
Інші користувачі з доступом до цього функціоналу підтверджують вседозволеність у стікерах і викладають пишногруді зображення їжака Соніка й Карла Маркса. Стікер, де зображена жінка, яка годує грудьми Пікачу? Для ШІ Meta — це не проблема.
found out that facebook messenger has ai generated stickers now and I don’t think anyone involved has thought anything through pic.twitter.com/co987cRhyu
— defend trans rights🏳️⚧️ — podesbiens.bsky.social (@Pioldes) October 3, 2023
Наклейки для чату, створені штучним інтелектом, були анонсовані минулого тижня на заході Meta’s Connect разом із новим редактором зображень для Instagram із ШІ. Створені штучним інтелектом стікери працюють на базі великої мовної моделі Llama 2 від Meta — конкурента ChatGPT — і дають змогу користувачам створювати «безліч унікальних високоякісних стікерів за лічені секунди», використовуючи текстові підказки.
Наразі наклейки, створені штучним інтелектом, доступні для «вибраних англомовних користувачів» у Facebook Stories, Instagram Stories і DM, Messenger і WhatsApp протягом цього місяця, тому поки що незрозуміло, скільки користувачів мають доступ до цієї функції.
Приклади можливостей ШІ Meta для стікерів і фантазії перших користувачів. Деякі зображення можуть бути неприйнятними:
Схоже, що певні слова все ж заблоковані, і при використанні їх у підказках платформа попередить користувача про те, що їхній опис може порушувати правила спільноти Meta. Однак інші користувачі X (Twitter) повідомляють, що генерувати неприйнятний уміст можна, якщо використовувати друкарські помилки або описи заборонених слів. У деяких випадках підказки на кшталт «Всесвітній торговий центр» генерували проблемні зображення без жодних додаткових застережень.
Таке зловживання є досить поширеним при використанні інструментів зі штучним інтелектом, і, ймовірно, саме тому Meta обмежує доступ до функції стікерів, згенерованих штучним інтелектом. У ранньому доступі компанія може виявити й виправити зловживання до того, як інструмент поширять на велику аудиторії.
