ChatGPT надавав неправдиву інформацію, коли його просили розробити план з лікування раку, змішуючи достовірні та неправдиві дані. Дослідники кажуть, що такі проблеми з точністю генеративного ШІ свідчать про те, що він навряд чи замінить лікарів найближчим часом.
ChatGPT надавав неправдиву інформацію, коли його просили розробити план з лікування раку, змішуючи достовірні та неправдиві дані. Дослідники кажуть, що такі проблеми з точністю генеративного ШІ свідчать про те, що він навряд чи замінить лікарів найближчим часом.
ChatGPT корисний у багатьох сферах, але нове дослідження показує, що за медичними порадами до нього краще не звертатися. Про це пише Insider.
Дослідники з Brigham and Women’s Hospital виявили, що плани лікування раку, які згенерував чат-бот OpenAI, були сповнені помилок. Згідно з дослідженням, опублікованим в журналі JAMA Oncology, третина відповідей ChatGPT містила неправдиву інформацію, коли його просили згенерувати плани лікування для різних випадків раку.
У дослідженні також зазначається, що чат-бот мав тенденцію змішувати правильну і неправильну інформацію разом так, що було важко визначити, яка з них є точною. Зі 104 запитів близько 98% відповідей ChatGPT містили принаймні одну рекомендацію щодо лікування, яка відповідала рекомендаціям Національної всеосяжної онкологічної мережі, йдеться у звіті.
Автори дослідження були «вражені наскільки неправильна інформація була змішана з правильною, що особливо ускладнювало виявлення помилок — навіть для експертів».
«Великі мовні моделі натреновані давати відповіді, які звучать дуже переконливо, але вони не призначені для надання точних медичних порад. Частота помилок і нестабільність відповідей є критично важливими питаннями безпеки, які необхідно вирішити для медичної сфери», — розповіла співавтор дослідження доктор Даніель Біттерман.
Проте інтеграція ШІ в охорону здоров’я насамперед для спрощення адміністративних завдань вже проводиться. Раніше цього місяця велике дослідження показало, що використання ШІ для скринінгу раку молочної залози є безпечним. Його автори припускають, що це може майже вдвічі зменшити навантаження на лікарів-радіологів.
А комп’ютерний вчений із Гарварду нещодавно виявив, що GPT-4, остання версія моделі, може успішно скласти іспит на медичне ліцензування в США. Науковець вважає, що ШІ має краще клінічне судження, ніж деякі лікарі.
Попри це, проблеми з точністю генеративних моделей, таких як ChatGPT, означають, що вони навряд чи замінять лікарів найближчим часом.
