Чат-бот Grok Ілона Маска почав розповідати про «білий геноцид», відповідаючи на зовсім інші питання: про HBO, Папу Римського. Що трапилося?

Відповіді про «білий геноцид» з’являлися, коли користувачі X використовували Grok з метою уточнити чи перевірити якусь інформацію, написану в інших постах.

Одного разу Grok почав розповідати про білий геноцид, коли у нього запитали про те, скільки разів HBO змінювала назву свого стримінгового сервісу.

В іншому випадку Grok розповідав про «білий геноцид», коли його попросили пояснити пост нового Папи Римського термінологією з Fortnite, або для перевірки зарплати американського бейсболіста.

Стартап Ілона Маска xAI (розробник Grok), повідомив, що така поведінка була спричинена «несанкціонованою модифікацією» чат-бота.

xAI видалила всі подібні відповіді чат-бота.

Ось яке пояснення надала компанія:

«14 травня приблизно о 3:15 ранку за тихоокеанським стандартним часом до запиту бота для відповіді Grok на X було внесено несанкціоновану зміну. ​​Ця зміна, яка зобов’язала Grok надати конкретну відповідь на політичну тему, порушила внутрішню політику та основні цінності xAI. Ми провели ретельне розслідування та вживаємо заходів для підвищення прозорості та надійності Grok», — йдеться в повідомленні.

Що xAI збирається робити далі:

1. Починаючи з цього моменту, ми відкрито публікуємо запити нашої системи Grok на GitHub. Громадськість зможе переглядати їх та надавати відгуки щодо кожної зміни запиту, яку ми вносимо до Grok. Ми сподіваємося, що це допоможе зміцнити вашу довіру до Grok як до штучного інтелекту, який шукає правду.
2. У цьому інциденті наш існуючий процес перевірки коду для змін запиту було обійдено. Ми запровадимо додаткові перевірки та заходи, щоб гарантувати, що співробітники xAI не зможуть змінювати запит без перевірки.
3. Ми створюємо цілодобову команду моніторингу для реагування на інциденти з відповідями Grok, які не виявляються автоматизованими системами, щоб ми могли реагувати швидше, якщо всі інші заходи не спрацюють.