ВОЗ предупреждает об опасности медицинского ИИ для более бедных стран и дает рекомендации по этическому использованию

Согласно данным из отчета ВОЗ, мультимодальные модели (LMM), не обученные данным людям с мест с ограниченными ресурсами, эти группы населения могут плохо обслуживаться алгоритмами, говорит агентство, пишет Nature.

LMM в области здравоохранения могут составлять клинические записи, заполнять формы и помогать врачам диагностировать и лечить пациентов. Несколько компаний и поставщиков медицинских услуг разрабатывают специальные инструменты ИИ. По словам ВОЗ, мультимодальные модели были приняты быстрее, чем любое потребительское применение в истории.

Первые рекомендации ВОЗ по искусственному интеллекту в здравоохранении были изданы организацией еще в 2021 году. Но из-за стремительного развития инструментов, основанных на искусственном интеллекте, а также их мощности и доступности, ВОЗ решили обновить список.

Организация предостерегает:

• О глобальной «гонке на дно», в которой компании стремятся первыми выпускать программы, даже если они не работают и опасны. Это повышает перспективу краха модели, цикла дезинформации, в котором LMM, обученные неточной или ложной информацией, загрязняют публичные источники информации, такие как Интернет.
• Управление этими мощными инструментами нельзя оставлять только технологическим компаниям. Группы гражданского общества и люди, получающие медицинскую помощь, должны вносить свой вклад во все этапы разработки и внедрения LMM, включая надзор и регулирование.
• О потенциале «промышленного увлечения» разработки LMM, учитывая высокую стоимость обучения, развертывания и поддержки этих программ. Уже есть убедительные доказательства того, что крупнейшие компании вытесняют как университеты, так и правительства в исследовании искусственного интеллекта, говорится в отчете, причем беспрецедентное количество докторантов и преподавателей оставляет науку в промышленности.

Среди обязательных рекомендаций ВОЗ:

• Аудит независимыми третьими сторонами LMM, развертывающимися в больших масштабах. Такие аудиты должны оценивать, как хорошо инструмент защищает как данные, так и права человека, добавляет ВОЗ.
• Обучение этике и медицине разработчиков и программистов, работающих над LLM и инструментами, которые могут использоваться в здравоохранении или научных исследованиях. Правительства могут потребовать от разработчиков регистрации ранних алгоритмов, чтобы поощрить публикацию негативных результатов и предотвратить предвзятость публикации и шумихи.

Читайте главные IT-новости страны в нашем Telegram

По теме

Читайте главные IT-новости страны в нашем Telegram

ИИ повлияет на 40% глобального рынка труда и углубит неравенство между странами — МВФ

По теме

ИИ повлияет на 40% глобального рынка труда и углубит неравенство между странами — МВФ

Ученые из Абу-Даби создали ИИ, которое может имитировать уникальный почерк человека

По теме

Ученые из Абу-Даби создали ИИ, которое может имитировать уникальный почерк человека

Чат-бот на основе AI-модели от Google общался с пациентами и ставил диагнозы, вероятно, лучше врачей. Заменит ли он человека?

По теме

Чат-бот на основе AI-модели от Google общался с пациентами и ставил диагнозы, вероятно, лучше врачей. Заменит ли он человека?

В Великобритании стражи порядка расследуют групповое изнасилование 16-летней девочки в VR-игре — Daily Mail

По теме

В Великобритании стражи порядка расследуют групповое изнасилование 16-летней девочки в VR-игре — Daily Mail