ВООЗ попереджає про небезпеку медичного ШІ для бідніших країн та дає рекомендації щодо етичного використання

Згідно з даними зі звіту ВООЗ, мультимодальні моделі (LMM), які не навчені на даних людей із місць з обмеженими ресурсами, ці групи населення можуть погано обслуговуватися алгоритмами, каже агентство, пише Nature.

LMM у сфері охорони здоровʼя можуть складати клінічні записи, заповнювати форми та допомагати лікарям діагностувати та лікувати пацієнтів. Кілька компаній і постачальників медичних послуг розробляють спеціальні інструменти ШІ. За словами ВООЗ, мультимодальні моделі були «прийняті швидше, ніж будь-яке споживче застосування в історії».

Перші рекомендації ВООЗ щодо штучного інтелекту в охороні здоров’я були видані організацією ще у 2021 році. Але через стрімкий розвиток інструментів, заснованих на штучному інтелекті, а також їхньої потужності та доступності, ВООЗ вирішили оновити список.

Організація застерігає:

• Про глобальну «гонку на дно», в якій компанії прагнуть першими випускати програми, навіть якщо вони не працюють і є небезпечними. Це підвищує перспективу «краху моделі», циклу дезінформації, у якому LMM, навчені неточною або неправдивою інформацією, забруднюють публічні джерела інформації, такі як Інтернет.
• Керування цими потужними інструментами не можна залишати лише технологічним компаніям. Групи громадянського суспільства та люди, які отримують медичну допомогу, повинні робити свій внесок у всі етапи розробки та впровадження LMM, включаючи нагляд і регулювання.
• Про потенціал «промислового захоплення» розробки LMM, враховуючи високу вартість навчання, розгортання та підтримки цих програм. Уже є переконливі докази того, що найбільші компанії витісняють як університети, так і уряди в дослідженні штучного інтелекту, йдеться у звіті, причому «безпрецедентна» кількість докторантів і викладачів залишає науку в промисловості.

Серед обовʼязкових рекомендацій ВООЗ:

• Аудит незалежними третіми сторонами LMM, які розгортаються у великих масштабах. Такі аудити повинні оцінювати, наскільки добре інструмент захищає як дані, так і права людини, додає ВООЗ.
• Навчання етики та медицини розробників та програмістів, які працюють над LLM та інструментами, які можуть бути використані в охороні здоров’я чи наукових дослідженнях. Уряди можуть вимагати від розробників реєстрації ранніх алгоритмів, щоб заохотити публікацію негативних результатів і запобігти упередженості публікації та галасу.

Читайте головні IT-новини країни в нашому Telegram

По темi

Читайте головні IT-новини країни в нашому Telegram

ШІ вплине на 40% глобального ринку праці та поглибить нерівність між країни — МВФ

По темi

ШІ вплине на 40% глобального ринку праці та поглибить нерівність між країни — МВФ

Учені з Абу-Дабі створили ШІ, який може імітувати унікальний почерк людини

По темi

Учені з Абу-Дабі створили ШІ, який може імітувати унікальний почерк людини

Чат-бот на основі AI-моделі від Google спілкувався з пацієнтами та ставив діагнози, ймовірно, краще за лікарів. Чи замінить він людину?

По темi

Чат-бот на основі AI-моделі від Google спілкувався з пацієнтами та ставив діагнози, ймовірно, краще за лікарів. Чи замінить він людину?

У Великій Британії правоохоронці розслідують групове зґвалтування 16-річної дівчинки у VR-грі — Daily Mail

По темi

У Великій Британії правоохоронці розслідують групове зґвалтування 16-річної дівчинки у VR-грі — Daily Mail