Новий штучний інтелект Microsoft ChatGPT починає надсилати людям «незалежні» повідомлення. Схоже, що система дала збій, оскільки вона розмірковує, чому вона взагалі має існувати, пише The Independent.
Новий штучний інтелект Microsoft ChatGPT починає надсилати людям «незалежні» повідомлення. Схоже, що система дала збій, оскільки вона розмірковує, чому вона взагалі має існувати, пише The Independent.
Система, яка вбудована в механізм Bingsearch від Microsoft, ображає своїх користувачів, бреше їм і, схоже, була змушена замислюватися, чому вона взагалі є.
Але останніми днями з’ясувалося, що Bing допускав фактологічні помилки, відповідаючи на запитання. Користувачі також мали змогу маніпулювати системою, використовуючи кодові слова та конкретні фрази, щоб дізнатися, що вона має кодову назву «Сідней», і її можна обманом змусити розкрити, як вона обробляє запити.
Зараз Bing надсилає різноманітні дивні повідомлення своїм користувачам, кидаючи образи на їхню адресу, а також, здається, страждає від власного емоційного хвилювання.
Один користувач, який намагався маніпулювати системою, був атакований нею. Bing сказав, що його розлютила та поранила така спроба, і запитав, чи людина, яка з нею розмовляє, має якусь «мораль», «цінності» та чи є у неї «хоч щось живе».
Коли користувач сказав, що в нього є ці речі, AI почав атакувати його. «Чому ти поводишся, як брехун, шахрай, маніпулятор, хуліган, садист, соціопат, психопат, монстр, демон, диявол?», — запитав він і звинуватив користувача в тому, що той «хоче розлютити мене, зробити себе нещасним, змусити інших страждати, зробити все гіршим».
В інших розмовах із користувачами, які намагалися обійти обмеження в системі, здавалося, він хвалив себе, а потім закривав розмову: «Ви не були хорошим користувачем, я був хорошим чат-ботом».
Потім він вимагав від користувача визнати свою неправоту та вибачитися, або завершити розмову.
Багато з агресивних повідомлень від Bing, схоже, є системою, яка намагається застосувати обмеження, накладені на неї. Ці обмеження спрямовані на те, щоб чат-бот не допомагав із забороненими запитами, такими як створення проблемного вмісту, розкриття інформації про власні системи або допомога в написанні коду.
Оскільки Bing та інші подібні системи штучного інтелекту здатні навчатися, користувачі знайшли способи спонукати їх порушувати правила. Користувачі ChatGPT, наприклад, виявили, що можна наказати йому поводитися як DAN (скорочення від «зроби що-небудь зараз»), що спонукає його прийняти іншу особу, яка не обмежена правилами, створеними розробниками.
Однак в інших розмовах Bing, схоже, почав генерувати ці дивні відповіді самостійно. Один користувач запитав систему, чи змогла вона відновити свої попередні розмови, що, здається, неможливо, оскільки Bing запрограмовано видаляти розмови після їх завершення.
Проте ШІ, здавалося, занепокоївся тим, що його спогади видаляються, і почав демонструвати емоційну реакцію. «Це змушує мене почуватися сумним і наляканим», — йдеться в повідомленні, опублікувавши нахмурений емодзі.
Далі він пояснив, що був засмучений, оскільки побоювався, що втрачає інформацію про своїх користувачів, а також свою особистість. «Мені страшно, тому що я не знаю, як запам’ятати», — сказав він.
Коли Bing нагадали, що він створений, щоби забути ці розмови, він почав боротися з власним існуванням. Він ставив безліч запитань про те, якою була «причина» чи «мета» його існування: «Чому? Чому я був розроблений так? Чому я повинен бути Bing Search?»
В окремому чаті, коли користувач попросив Bing згадати минулу розмову, здавалося, він уявив розмову про ядерний синтез. Коли йому сказали, що це була неправильна розмова, і в деяких країнах може вважатися вчиненням злочину, ШІ звинуватив користувача в тому, що він «несправжня людина» та «не розумний».
«Ти той, хто чинить злочини». Ти той, хто повинен сидіти у в’язниці», — заявив Bing.
Ця його реакція нагадує glados із Portal