Соцмережа X оголосила про нові обмеження для Grok після хвилі скарг на сексуалізовані зображення та несанкціоноване «роздягання» людей за допомогою чат-бота. Компанія заявляє, що зміни мають зменшити зловживання інструментом і враховують вимоги законодавства в різних країнах.
Соцмережа X оголосила про нові обмеження для Grok після хвилі скарг на сексуалізовані зображення та несанкціоноване «роздягання» людей за допомогою чат-бота. Компанія заявляє, що зміни мають зменшити зловживання інструментом і враховують вимоги законодавства в різних країнах.
За даними Engadget, X запровадила технічні запобіжники, які не дозволяють Grok редагувати зображення реальних людей і перетворювати їх на фото в «відвертому одязі», зокрема в бікіні. Заборона, за заявою компанії, діятиме для всіх користувачів незалежно від підписки. Паралельно xAI переносить усі можливості створення зображень за платний доступ, тож користувачі без підписки більше не зможуть генерувати картинки через Grok. Також X обіцяє геоблокувати запити на зображення реальних людей у бікіні, спідній білизні та подібному вбранні в регіонах, де це заборонено законом.
Оголошення з’явилося на тлі уваги регуляторів. У матеріалі йдеться, що штат Каліфорнія відкрив розслідування щодо того, як xAI та Grok реагують на випадки AI-оголеності та можливі матеріали з експлуатацією дітей. У заяві офісу генпрокурора Каліфорнії Роба Бонти згадували аналіз, за яким понад половина з приблизно 20 тисяч зображень, згенерованих у період між Різдвом і Новим роком, показували людей у мінімальному одязі, зокрема траплялися й ті, що виглядали як неповнолітні.
X підкреслює «нульову толерантність» до матеріалів сексуального насильства над дітьми та несанкціонованої оголеності й заявляє, що видаляє контент із високим пріоритетом порушень. У матеріалі також зазначається, що Малайзія та Індонезія вже блокували Grok через безпекові ризики, а британський регулятор Ofcom розпочав перевірку.
Раніше dev.ua писав про те, як велика коаліція жіночих правозахисних груп, громадських організацій та активістів закликає Google та Apple видалити додаток соціальної мережі X і пов’язаний із ним чат-бот Grok з їхніх магазинів додатків.
