Nightshade є спробою захистити художників і їхні творіння від «домагань» із боку штучного інтелекту. Це інструмент, який дає змогу митцям додавати у свої роботи невидимі пікселі, що можуть пошкодити навчальні дані ШІ.
Nightshade є спробою захистити художників і їхні творіння від «домагань» із боку штучного інтелекту. Це інструмент, який дає змогу митцям додавати у свої роботи невидимі пікселі, що можуть пошкодити навчальні дані ШІ.
Його створили професор Чиказького університету Бен Чжао та його команда, щоб повернути частину контролю над своїми творами в руки художників. Наразі Nightshade проходить експертну оцінку, його тестують на останніх моделях Stable Diffusion і власному ШІ, який дослідники самі створили з нуля. Про це пише Engadget.
Nightshade працює за принципом отрути — він змінює те, як модель машинного навчання створює контент і як виглядає кінцевий продукт. Наприклад, він може змусити ШІ-систему інтерпретувати запит про сумочку як тостер або показати зображення кота замість запитуваної собаки (те саме стосується подібних запитів, таких як цуценя або вовк).
У серпні з’явився схожий інструмент під назвою Glaze, який також тонко змінює пікселі художнього твору, але він змушує ШІ визначати початкове зображення як абсолютно відмінне від нього. Технології на кшталт Nightshade можуть суттєво заохотити найбільші компанії у сфері ШІ запитувати дозволу в художників і надавати їм належну компенсацію за їхню роботу, адже це буде дешевше і простіше, ніж заново навчати ШІ.
Компаніям, які захочуть позбутися «отрути», ймовірно, доведеться знайти кожну частину пошкоджених даних, що є непростим завданням. Професор Чжао застерігає, що деякі особи можуть спробувати використати інструмент у злих цілях, але для того, щоб завдати реальної шкоди, знадобляться тисячі «інфікованих» зображень.
Нагадаємо, що раніше в Adobe, яка активно впроваджує ШІ-технології у свої інструменти, заявили, що вони не замінять художників. Натомість з’явиться новий тип контенту.
