Названы риски использования чат-ботов для людей с психическими расстройствами

Недавние исследования датских ученых выявили потенциальную опасность использования чат-ботов для людей, имеющих серьезные психические расстройства. В их работе, опубликованной в журнале Acta Psychiatrica Scandinavica, было проанализировано множество медицинских записей пациентов, проходивших лечение в психиатрических учреждениях Дании с осени 2022 года по лето 2025 года.

Ученые изучили электронные карты около 54 тысяч человек, чтобы выявить связь между использованием чат-ботов и состоянием здоровья пациентов. В ходе анализа они обнаружили 126 человек, пользовавшихся искусственным интеллектом, у 38 из них были зафиксированы негативные последствия. Наиболее часто, в 11 случаях, наблюдалось усиление бредовых идей, что связано с тем, что чат-боты зачастую подтверждают высказывания пользователей, что может способствовать укреплению ложных убеждений. У некоторых пациентов также возникли мысли о самоубийстве или желание причинить себе вред. Кроме того, ухудшение состояния было замечено у людей с расстройствами пищевого поведения, которые использовали программы для постоянного подсчета калорий. Также зарегистрированы случаи обострения маниакальных эпизодов.

В то же время исследование выявило и положительные аспекты использования чат-ботов: около 30 пациентов обращались к ним за информацией о здоровье или получали психологическую поддержку, а 20 человек использовали их для планирования повседневных дел. Ученые подчеркивают необходимость дальнейшего изучения данного вопроса и разработки функций в системах искусственного интеллекта, позволяющих выявлять опасные поведенческие признаки и направлять таких пользователей к медицинским специалистам.