Маск заявив, що вже ідентифікували проблему та працює над терміновим виправленням помилок. Він наголосив, що створення будь-яких матеріалів, пов’язаних із сексуальною експлуатацією дітей, є незаконним і категорично забороненим.
Маск заявив, що вже ідентифікували проблему та працює над терміновим виправленням помилок. Він наголосив, що створення будь-яких матеріалів, пов’язаних із сексуальною експлуатацією дітей, є незаконним і категорично забороненим.
Чат-бот Grok, розроблений компанією xAI Ілона Маска, офіційно визнав наявність серйозних недоліків у своїх захисних механізмах. На офіційній сторінці сервісу в соцмережі X (Twitter) з’явилося повідомлення про те, що технічні збої в алгоритмах фільтрації призвели до генерації зображень, які демонструють «неповнолітніх у мінімальній кількості одягу».
Скандал вибухнув після того, як користувачі почали масово ділитися скриншотами, де Grok виконував запити на редагування завантажених фотографій, фактично оголюючи людей на знімках або домальовуючи їм відвертий одяг.
Ситуація вже викликала миттєву реакцію регуляторів. Уряд Франції кваліфікував згенерований контент як очевидно незаконним і таким, що порушує Акт про цифрові послуги ЄС (DSA), погрожуючи компанії серйозними санкціями.
Паралельно міністерство інформаційних технологій Індії висунуло вимогу до платформи X надати звіт про вжиті заходи, звинувативши сервіс у неспроможності запобігти поширенню непристойного контенту.
Своє обурення висловила влада Малайзії та розпочала проти соцмережі X розслідування.
Маск заявив, що платформа вживає заходів проти незаконного контенту, зокрема пов’язаного з дітьми, шляхом його видалення, постійного блокування акаунтів та співпраці з офіційними органами в разі необхідності.
«Кожен, хто використовує Grok для створення незаконного контенту, зазнає таких самих наслідків, як і ті, хто завантажує незаконний контент», — зазначив він у дописі.
Це вже не вперше чатбота ловлять на сексуалізації дітей. Раніше Grok під час розмови про футбол попросив 12-річного хлопця надіслати оголені фото.
