Исследование показало, что врачи могут доверять ошибочным рекомендациям ИИ
Учёные оценили, насколько врачи способны оценивать и исправлять ошибки рекомендаций искусственного интеллекта (ИИ) при принятии медицинских решений. Результаты исследования опубликованы в журнале PLOS Digital Health. Авторы работы отмечают, что системы ИИ могут помогать врачам выбирать подходящее лечение для пациентов, но их рекомендации могут содержать ошибки, которые специалистам необходимо выявлять.
В исследовании приняли участие 223 врача, которые анонимно прошли онлайн-эксперименты. Участникам предложили представить ситуацию, в которой они лечат пациентов с редким заболеванием с помощью нового метода терапии, находящегося на стадии разработки. Врачам сообщили, что система ИИ определила, каким пациентам это лечение может помочь в большей или в меньшей степени. После этого специалисты выбирали пациентов для лечения и получали данные об их выздоровлении.
В обоих экспериментах рекомендации ИИ не соответствовали реальным результатам лечения. В первом случае лечение оказалось одинаково умеренно эффективным для всех пациентов, хотя система ИИ указывала на различия между группами. Во втором случае лечение оказалось одинаково неэффективным для всех пациентов, но врачи также не смогли правильно оценить рекомендации системы.
Несмотря на полученные данные о состоянии пациентов, участники в большинстве случаев продолжали считать систему ИИ надёжной. Во втором эксперименте врачи не заметили, что предложенное лечение не давало результата.
Комментарии
Авторы исследования пришли к выводу, что при использовании ИИ в медицине могут возникать сложности с оценкой ошибок алгоритмов. По мнению учёных, необходимо разрабатывать методы, которые помогут врачам лучше анализировать рекомендации ИИ и учитывать данные, которые им противоречат.
Ранее опубликованное исследование показало, что постоянное применение ИИ в диагностике может ухудшить способность врачей распознавать предраковые новообразования в толстой кишке. Это поднимает важные вопросы о сбалансированном подходе к внедрению новых технологий в медицину.