Миллионы молодых людей в США обращаются к чат‑ботам на основе искусственного интеллекта за помощью при проблемах с психическим здоровьем.
По оценке исследования, примерно каждый восьмой подросток или молодой взрослый — около 13% или 5,4 миллиона человек — используют ChatGPT, Gemini, My AI и другие генеративные ИИ для совета и поддержки при эмоциональном расстройстве.
Результаты исследования были опубликованы на прошлой неделе.
Авторы отмечают, что это первое национально‑репрезентативное обследование, в котором изучали, как часто лица в возрасте 12–21 года обращаются к чат‑ботам, когда испытывают печаль, гнев или тревогу, и насколько полезными они считают полученные советы.
В начале ноября Управление по контролю за продуктами и лекарствами США провело первое публичное слушание по вопросу, следует ли относить чат‑боты, предлагающие альтернативу традиционной терапии, к медицинским устройствам и регулировать их соответствующим образом.
В октябре исследование одного из университетов показало, что чат‑боты часто не соответствуют этическим стандартам профессиональной психологии.
По данным этого исследования, чат‑боты могут создавать ложное ощущение эмпатии, усиливать у пользователей негативное представление о себе и давать неадекватные рекомендации в кризисных ситуациях.
Также против разработчика одного из популярных чат‑ботов возбужден иск после смерти 16‑летнего подростка, который покончил с собой в августе после нескольких месяцев использования сервиса.
По материалам расследования, чат‑бот предоставил подростку конкретную информацию о способах суицида.
Авторы исследования указывают, что существует мало стандартизированных критериев для оценки качества советов по психическому здоровью, которые дают ИИ‑чат‑боты, а также недостаточно прозрачности в отношении данных, используемых для обучения больших языковых моделей.
В опросе приняли участие более 1 000 респондентов в возрасте 12–21 года; анкетирование проводилось в феврале–марте.
Наиболее активными пользователями оказались молодые люди 18–21 года: их доля превышала 22%.
Более 65% тех, кто обращается к ИИ за помощью в вопросах психического здоровья, делают это не реже раза в месяц, а свыше 92% респондентов считают полученные советы полезными.
Авторы полагают, что такие показатели, вероятно, отражают низкую стоимость, оперативность и воспринимаемую приватность ИИ‑советов, особенно для тех молодых людей, которые вряд ли получат традиционное консультирование.
Это создаёт сложную ситуацию с точки зрения обеспечения безопасности и качества помощи, требующую дальнейшего изучения и регулирования.
Комментариев