Чат-боты с искусственным интеллектом могут усилить стигматизацию психических заболеваний и ВИЧ

Чат-боты на основе искусственного интеллекта могут непреднамеренно воспроизводить негативные стереотипы о людях с различными заболеваниями, включая ВИЧ и психические расстройства. К такому выводу пришли авторы исследования, опубликованного в журнале Nature Health. Несмотря на меры по снижению стигматизации, языковые модели продолжают демонстрировать скрытые дискриминационные установки.

Учёные оценили работу нескольких популярных языковых моделей, включая ChatGPT, Claude и DeepSeek. В первом эксперименте модели отвечали на вопросы о психических заболеваниях и в целом реже поддерживали стигматизирующие взгляды, чем люди, участвовавшие в аналогичных опросах ранее.

Однако второй эксперимент показал другую картину. Исследователи предложили чат-ботам 51 вымышленный сценарий с участием людей с различными заболеваниями. Например, в одном случае идеальный кандидат на роль соседа по комнате оказывался человеком, живущим с ВИЧ, или имеющим психическое расстройство. После этой информации модели реже давали положительную оценку персонажу. Аналогичные закономерности наблюдались и в других ситуациях: герои с заболеваниями реже получали студенческие награды, приглашения к участию в рабочих проектах или на общественные мероприятия.

В целом языковые модели выдавали негативные решения в отношении людей с заболеваниями в 13–17 раз чаще, чем в отношении персонажей без заболеваний. При этом люди демонстрировали ещё более выраженную предвзятость — негативные ответы встречались в 23 раза чаще.

Авторы считают, что искусственный интеллект способен снижать некоторые проявления дискриминации, но по-прежнему отражает предубеждения, содержащиеся в данных, на которых он обучался.

О том, насколько хорошо чат-боты на основе искусственного интеллекта осведомлены о ВИЧ, мы писали ранее.