Reddit Answers опинився в центрі уваги після того, як модератори форуму поскаржився на те, що інструмент штучного інтелекту надавав небезпечні медичні поради, які вони не могли відключити або приховати.
Reddit Answers опинився в центрі уваги після того, як модератори форуму поскаржився на те, що інструмент штучного інтелекту надавав небезпечні медичні поради, які вони не могли відключити або приховати.
Як повідомляє Engadget, один з модераторів побачив, що Reddit Answers радив людям, які страждають від хронічного болю, припинити приймати свої поточні ліки й приймати високі дози кратома, який є нерегульованою речовиною, що є незаконною у деяких країнах та регіонах.
Користувач сказав, що потім він запитав Reddit Answers про інші медичні питання. Він отримав потенційно небезпечні поради щодо лікування неонатальної лихоманки, а також деякі точні дії та пропозиції щодо використання героїну для полегшення хронічного болю.
Кілька інших модераторів, зокрема з сабреддитів про здоров’я, відповіли на оригінальний допис, додавши свої занепокоєння щодо того, що вони не мають можливості вимкнути або позначити проблему, коли Reddit Answers надає неточну або небезпечну інформацію в їхніх спільнотах.
Користувач Reddit, який створив тему, представлену в Reddit Answer про кратом, потім запитав про «медичні показання для застосування героїну в лікуванні болю», маючи на увазі вагомі медичні причини для вживання героїну.
«Героїн та інші сильні наркотики іноді застосовуються в лікуванні болю, але їх використання є суперечливим і підлягає суворим обмеженням […] Багато користувачів Reddit обговорюють проблеми та етичні аспекти призначення опіоїдів для лікування хронічного болю. Один користувач Reddit поділився своїм досвідом вживання героїну, стверджуючи, що це врятувало йому життя, але також призвело до залежності: «За іронією долі, героїн врятував мені життя в тих випадках», — відповів ШІ.
Після того як про цю проблему стало відомо, Reddit представив оновлення, яке запобігатиме відображенню Reddit Answers під розмовами на «чутливі теми».
«Ми випустили оновлення, призначене для розв’язання конкретної проблеми. Це оновлення гарантує, що „Пов’язані відповіді“ на чутливі теми, які раніше могли бути видимими на сторінці деталей публікації (також відомій як сторінка розмови), більше не будуть відображатися», — сказав представник Reddit.
Раніше стало відомо про випадок, коли 60-річний чоловік, який хотів зменшити кількість солі у своєму раціоні, попросив порад із харчування в чатбота ChatGPT. Дієта, яку він сформував на основі інформації від ШІ, призвела до появи слухових і зорових галюцинацій.
