Использование ИИ в сфере здравоохранения может усиливать неравенство, считают исследователи
Группа учёных проанализировала этические риски использования искусственного интеллекта (ИИ) в общественном здравоохранении. Результаты их работы опубликованы в American Journal of Public Health.
Исследователи рассмотрели применение ИИ для эпидемиологического надзора, профилактики заболеваний, информирования о рисках и поведенческих вмешательств. По их оценке, такие системы могут помогать раньше выявлять заболевания и эффективнее распределять ограниченные ресурсы. При этом внедрение ИИ часто происходит без единых правил проверки, контроля и оценки его влияния на разные группы населения.
Исследователи выделили риски дискриминации, нарушения конфиденциальности, слежки и ошибочной классификации людей. Особенно эти проблемы могут затрагивать детей, людей с инвалидностью, коренные народы и другие исторически уязвимые группы населения. Использование данных о местоположении также может стирать границу между общественным здравоохранением и частной жизнью.
Авторы предлагают оценивать влияние ИИ на равенство, тестировать такие системы вместе с местными сообществами, открыто информировать людей о применении ИИ и обеспечивать защиту данных. Важным условием они считают и человеческий контроль при принятии значимых решений.
Исследователи подчёркивают, что ответственное использование ИИ требует не только технических проверок, но и постоянного контроля за его влиянием на разные группы населения.
Ранее учёные протестировали ChatGPT, Claude и DeepSeek и обнаружили, чат-боты на основе искусственного интеллекта могут непреднамеренно воспроизводить негативные стереотипы о людях с различными заболеваниями, включая ВИЧ и психические расстройства.
