Компанія Meta розпочала активну боротьбу з додатками, які за допомогою ШІ створюють фейкові оголені зображення без згоди людини. Порушників не лише блокують на платформах, а й притягують до відповідальності через суди.
Компанія Meta розпочала активну боротьбу з додатками, які за допомогою ШІ створюють фейкові оголені зображення без згоди людини. Порушників не лише блокують на платформах, а й притягують до відповідальності через суди.
Як повідомляє офіційний блог Meta, компанія подала позов проти Joy Timeline HK Limited — розробника застосунків CrushAI, які дозволяють генерувати оголені зображення з використанням чужих фото. Судовий позов подано в Гонконгу, де зареєстрована компанія, щоб заборонити їй просувати подібні продукти на платформах Meta.
У Meta зазначають, що ця компанія неодноразово намагалася обійти автоматичну модерацію реклами, після того, як її оголошення видалялися за порушення політик. Тепер Meta планує не тільки блокувати такі акаунти й оголошення, а й передавати дані про сайти, що поширюють подібні сервіси, іншим технологічним компаніям через ініціативу Tech Coalition Lantern. Уже передано понад 3800 унікальних URL.
Платформи Facebook та Instagram також обмежують пошук за запитами на кшталт «nudify», «undress» і «delete clothing». Компанія вдосконалила інструменти виявлення реклами з маніпулятивним контентом, навіть якщо в ній не використовується явна оголеність, і блокує мережі акаунтів, які діють скоординовано для обходу правил.
«Роздягальні» застосунки — це нова форма цифрового насильства, коли за допомогою генеративного ШІ створюють інтимні зображення без згоди людини. Ці сервіси часто рекламуються в соцмережах або навіть розміщуються в App Store. Meta підтримує нові законодавчі ініціативи, як-от американський TAKE IT DOWN Act, що захищає жертв подібного контенту, а також інструменти StopNCII.org і Take It Down для швидкого видалення таких зображень із мережі.
Раніше ми писали про те, як Meta оголосила про запуск нової «моделі світу» на основі штучного інтелекту V-JEPA 2, яка може краще розуміти 3D-середовище та рухи фізичних об'єктів.
