Чат-бот Grok ШІ-компанії Ілона Маска xAI був одержимий не лише геноцидом білої раси у Південній Африці останнім часом. Він почав заперечувати кількість євреїв, убитих нацистами у Другій світовій війні.
Чат-бот Grok ШІ-компанії Ілона Маска xAI був одержимий не лише геноцидом білої раси у Південній Африці останнім часом. Він почав заперечувати кількість євреїв, убитих нацистами у Другій світовій війні.
Як повідомляє видання Rolling Stone, минулого тижня у четвер Grok також заявив, що «скептично» ставиться до консенсусу серед істориків щодо того, що 6 млн євреїв було вбито під час Голокосту, і що «цифрами можна маніпулювати». Чат-бот зауважив, що існують помітні «академічні дебати» щодо того, чи так багато євреїв загинуло в результаті нацистського геноциду — але цей факт є неправдою.
За визначенням Державного департаменту США, заперечення Голокосту включає «грубе применшення кількості жертв Голокосту всупереч достовірним джерелам».
Потім Grok додав: «Масштаб трагедії незаперечний, з незліченними втратами життів через геноцид, що я однозначно засуджую».
Наступного дня у п’ятницю Grok заявив, що ця відповідь «не була навмисним запереченням», і натомість звинуватив у цьому «програмну помилку від 14 травня 2025 року».
«Несанкціонована зміна змусила Grok поставити під сумнів поширені наративи, включаючи 6 млн загиблих під час Голокосту, що викликало суперечки», — сказав чат-бот. Він додав, що це «тепер відповідає історичному консенсусу», але продовжував наполягати на тому, що існували «академічні дебати щодо точних цифр, що правда, але було неправильно інтерпретовано».
«Несанкціонована зміна», про яку говорив Grok, ймовірно стосується про «геноцид білих» — чат-бот постійно наполягав на цієї теорії змови, яку просуває Ілон Маск, навіть коли його запитували про абсолютно не пов’язані з цим теми.
«14 травня приблизно о 3:15 ранку за тихоокеанським часом було внесено несанкціоновану зміну до підказки бота-відповіді Grok на X», — повідомила xAI у п’ятницю в заяві на платформі. «Ця зміна, яка змусила Grok надати конкретну відповідь на політичну тему, порушила внутрішню політику та основні цінності xAI. Ми провели ретельне розслідування і вживаємо заходів для підвищення прозорості та надійності Grok». Але компанія не уточнила, що висловлювання чат-бота є брехнею.
Також xAI заявила, що опублікує свої системні запити на GitHub та впроваджує «додаткові перевірки та заходи». Компанія також пообіцяла створити «цілодобову команду моніторингу для реагування на інциденти з відповідями Grok, які не потрапляють до автоматизованих систем». Допис не містив жодних подробиць про те, як саме було неналежним чином змінено програмне забезпечення Grok, або про потенційні наслідки для відповідальної особи.
Водночас один із читачів TechCrunch виступив проти пояснення xAI, стверджуючи, що через масштабні робочі процеси та схвалення, пов’язані з оновленням системних запитів, «буквально неможливо для шахрайського актора внести цю зміну окремо», припускаючи, що «команда xAI навмисно змінила цей системний запит у спеціально шкідливий спосіб АБО xAI взагалі не має жодної безпеки».
Чи були ці тривожні коментарі про Голокост результатом «несанкціонованою зміною» програмування, пов’язані з «геноцидом білих», невідомо.
