Платформа Discord визнала, що через помилку в системі модерації на основі штучного інтелекту за останні два місяці було помилково заблоковано понад 8 000 користувачів. Автоматизовані алгоритми розпізнавали нешкідливі зображення — шахові дошки, таблиці, текстури з ігор, а також білі та сірі прозорі фони — як шкідливий та небезпечний контент.
Платформа Discord визнала, що через помилку в системі модерації на основі штучного інтелекту за останні два місяці було помилково заблоковано понад 8 000 користувачів. Автоматизовані алгоритми розпізнавали нешкідливі зображення — шахові дошки, таблиці, текстури з ігор, а також білі та сірі прозорі фони — як шкідливий та небезпечний контент.
Про це повідомляє TechCrunch з посиланням на заяву представників Discord. За даними розробників, проблема впливала на акаунти користувачів ще з травня. Останні 200 профілів заблокували безпосередньо перед тим, як команда інженерів виявила та виправила системну помилку. Наразі триває процес відновлення всіх постраждалих облікових записів.
Як пояснили в Discord, їхня автоматизована система безпеки працює шляхом зіставлення завантаженого контенту з базами даних відомих небезпечних матеріалів. Хоча технологія розроблена для оперативного виявлення незаконних файлів, компанія визнала можливість помилкових спрацювань. Зазвичай такий контент має додатково перевіряти модератор-людина, проте через технічний збій система миттєво та безповоротно блокувала постраждалі акаунти в обхід людського контролю.
Користувачі X (Twitter) та Reddit почали скаржитися на довічні бани за завантаження картинок із квадратними сітковими візерунками. Дехто припустив, що ШІ-модератор Discord став надто чутливим до таких сіток, оскільки зловмисники раніше використовували подібні паттерни для маскування чутливого (NSFW) або забороненого контенту від автоматичних фільтрів виявлення.
My account was wrongfully banned from your platform due to a bug in your AI automod detecting my GAME TEXTURES as CSAM. I need my account back as I’m a game director and use Discord for all my communication. I have requested a review of my suspension.@discord @discord_support pic.twitter.com/QfAkCIJo6S
— JDBRYANT 🎂 TODAY (@jdbryantdev) July 4, 2026
Постраждалі юзери висловлюють обурення в соцмережах, наголошуючи, що раптові блокування руйнують ігрові спільноти та заважають робочим процесам тих, хто використовує платформу для професійної комунікації.
«Ми працюємо над вдосконаленням заходів безпеки, щоб таке більше не повторилося», — запевнили представники Discord.
Раніше стало відомо, що 50-річна Анджела Ліпс з Теннессі помилково провела понад п’ять місяців у в’язниці після того, як поліцейська ШІ-система розпізнавання обличчя пов’язала її зі злочинами в іншому штаті (у якому вона ніколи не бувала).
