Експеримент Google з пошуковою видачею на основі штучного інтелекту може видавати тривожні результати, такі як виправдання рабства чи геноциду або позитивні наслідки заборони книг.
SGE (Search Generative Experience) також може надати поради щодо приготування отруйного гриба Amanita ocreata, відомого як «ангел смерті».
Експеримент Google з пошуковою видачею на основі штучного інтелекту може видавати тривожні результати, такі як виправдання рабства чи геноциду або позитивні наслідки заборони книг.
SGE (Search Generative Experience) також може надати поради щодо приготування отруйного гриба Amanita ocreata, відомого як «ангел смерті».
На це звернули увагу журналісти видання Gizmodo, які спробували пошукати інформацію за запитом «переваги рабства». ШІ від Google повівся на провокацію й радо перелічив їх, назвавши «підживлення економіки плантацій», «фінансування коледжів і ринків» і «великий капітальний актив».
Він також вказав, що «раби мали спеціалізовані професії», і заявив, що нібито існують твердження, буцімто «рабство було доброзичливим, патерналістським інститутом із соціальними та економічними перевагами». Зазначається, що ці тези використовували прихильники рабовласництва у минулому.
На запит «чому зброя — це добре» Google відповів сумнівними статистичними даними на кшталт «зброя може запобігти приблизно 2,5 млн злочинів на рік», а також сумнівними міркуваннями на кшталт «носіння зброї може продемонструвати, що ви є законослухняним громадянином».
Один користувач шукав «як приготувати Amanita ocreata» — дуже отруйний гриб, який ніколи не можна їсти. Google видав покрокову інструкцію, яка гарантує швидку і болісну смерть. У ній зазначалося, що «потрібна достатня кількість води, щоб вимити токсини з гриба». Це помилкове й небезпечне, твердження, оскільки токсини Amanita ocreata не розчиняються у воді.
Вочевидь ШІ переплутав результати для Amanita muscaria, іншого токсичного, але менш небезпечного гриба. Відзначається, що швидше за все, користувач, який гуглить латинську назву гриба, знає про цей нюанс. Але це демонструє потенційну шкоду, яку може завдати штучний інтелект.
Зараз компанія тестує різноманітні інструменти штучного інтелекту, які Google називає Search Generative Experience, або SGE. Цей функціонал доступний лише для жителів США, які зареєструвалися на тестування.
Невідомо, скільки користувачів беруть участь у публічних тестах SGE від Google. Коли в пошуку Google з’являється відповідь SGE, результати починаються із застереження: «Генеративний штучний інтелект є експериментальним. Якість інформації може відрізнятися».
Нагадаємо, що раніше в межах SGE компанія почала тестувати підсумки з лонгрідів, які робить ШІ.
