🚀 Trustee Plus - картка європейського банку і криптогаманець. Встанови додаток 👉
Вікторія ГорбікТакая жизнь
19 января 2024, 08:50
2024-01-19
ВОЗ предупреждает об опасности медицинского ИИ для более бедных стран и дает рекомендации по этическому использованию
Всемирная организация здравоохранения (ВОЗ) предупредила, что внедрение технологий здравоохранения на основе искусственного интеллекта (ИИ) может оказаться «опасным» для людей в странах с низким уровнем дохода.
Всемирная организация здравоохранения (ВОЗ) предупредила, что внедрение технологий здравоохранения на основе искусственного интеллекта (ИИ) может оказаться «опасным» для людей в странах с низким уровнем дохода.
Согласно данным из отчета ВОЗ, мультимодальные модели (LMM), не обученные данным людям с мест с ограниченными ресурсами, эти группы населения могут плохо обслуживаться алгоритмами, говорит агентство, пишет Nature.
LMM в области здравоохранения могут составлять клинические записи, заполнять формы и помогать врачам диагностировать и лечить пациентов. Несколько компаний и поставщиков медицинских услуг разрабатывают специальные инструменты ИИ. По словам ВОЗ, мультимодальные модели были приняты быстрее, чем любое потребительское применение в истории.
Первые рекомендации ВОЗ по искусственному интеллекту в здравоохранении были изданы организацией еще в 2021 году. Но из-за стремительного развития инструментов, основанных на искусственном интеллекте, а также их мощности и доступности, ВОЗ решили обновить список.
Организация предостерегает:
О глобальной «гонке на дно», в которой компании стремятся первыми выпускать программы, даже если они не работают и опасны. Это повышает перспективу краха модели, цикла дезинформации, в котором LMM, обученные неточной или ложной информацией, загрязняют публичные источники информации, такие как Интернет.
Управление этими мощными инструментами нельзя оставлять только технологическим компаниям. Группы гражданского общества и люди, получающие медицинскую помощь, должны вносить свой вклад во все этапы разработки и внедрения LMM, включая надзор и регулирование.
О потенциале «промышленного увлечения» разработки LMM, учитывая высокую стоимость обучения, развертывания и поддержки этих программ. Уже есть убедительные доказательства того, что крупнейшие компании вытесняют как университеты, так и правительства в исследовании искусственного интеллекта, говорится в отчете, причем беспрецедентное количество докторантов и преподавателей оставляет науку в промышленности.
Среди обязательных рекомендаций ВОЗ:
Аудит независимыми третьими сторонами LMM, развертывающимися в больших масштабах. Такие аудиты должны оценивать, как хорошо инструмент защищает как данные, так и права человека, добавляет ВОЗ.
Обучение этике и медицине разработчиков и программистов, работающих над LLM и инструментами, которые могут использоваться в здравоохранении или научных исследованиях. Правительства могут потребовать от разработчиков регистрации ранних алгоритмов, чтобы поощрить публикацию негативных результатов и предотвратить предвзятость публикации и шумихи.
