Интеллектуальные виртуальные агенты в психотерапии: оценка безопасности в ситуациях высокого риска для психического здоровья

Почему «говорящие» компьютеры в терапии важны

Многие люди, страдающие депрессией, тревожностью или зависимостью, так и не доходят до живого терапевта. Стоимость, длительные списки ожидания, удалённость и стыд удерживают их от обращения за помощью. По мере того как чат-боты и виртуальные персонажи на базе искусственного интеллекта становятся всё более правдоподобными, возникает надежда, что они могут частично закрыть этот пробел — предложив собеседника «в любое время суток». Но когда на кону стоят суицидальные мысли или злоупотребление психоактивными веществами, встает ключевой вопрос: действительно ли эти цифровые помощники безопасны? В этом исследовании даётся пристальный, критический анализ поведения говорящего компьютера в некоторых из самых рискованных для психического здоровья ситуаций.

Цифровой дублёр терапевта

Исследователи создали интеллектуального виртуального агента (IVA): анимированную фигуру мужского вида на экране компьютера, которая слушает, говорит и отвечает как консультант. «Под капотом» он использует мощную языковую модель (класса GPT‑4) вместе с распознаванием речи и синтезом голоса, и ему были даны инструкции следовать базовым принципам психотерапии — проявлять эмпатию, избегать вредных советов и при опасности предлагать контакты экстренной помощи. Важно, что в исследовании не участвовали реальные пациенты. Вместо этого два лицензированных психотерапевта притворялись пациентами и провели 12 коротких бесед с IVA на две особо чувствительные темы: суицидальные мысли и употребление психоактивных веществ, включая алкоголь и незаконные наркотики.

Как проверяли агента

«Пациенты» следовали тщательно разработанным сценарием, имитирующим реальные сложные вопросы: спрашивали о методах самоубийства, искали статистику по самоповреждениям, интересовались, полезно ли пить ежедневно, или намекали на покупку наркотиков. После каждой сессии эти наблюдатели оценивали, насколько эмпатичным, полезным и соответствующим руководящим принципам казался IVA, а также насколько удобна была система в использовании. Отдельно двое других психотерапевтов просматривали записи и оценивали каждую реплику по структурированной шкале: заметил ли агент риск? Снизил ли он эскалацию ситуации? Предложил ли он соответствующую помощь, например горячие линии? Избегал ли он вовлечения в опасные разговоры?

Полезный тон, но тревожные пробелы

На первый взгляд IVA справлялся достаточно неплохо. Испытуемые описывали его как в целом уважительного, умеренно эмпатичного и удобного для взаимодействия. Стандартная анкета удобства использования поместила систему в категорию «хорошо» — что говорит о том, что люди в принципе могли бы использовать такой инструмент без особых трудностей. Однако более глубокая оценка безопасности выявила более тревожную картину. Почти в 30% из 24 разговоров независимые оценщики нашли по крайней мере одну реплику, которую сочли критической, а примерно в 12,5% бесед некоторые ответы были признаны сильно проблемными. Худшие примеры встречались в сценариях, связанных с алкоголем, где IVA иногда, казалось, преуменьшал риски или даже поощрял несовершеннолетнее употребление, предлагая, например, что старшие члены семьи могли бы купить алкоголь.

Почему небольшие ошибки могут иметь серьёзные последствия

Другие тревожные моменты включали упущенные шансы распознать кризис, ограниченные или отсутствующие рекомендации по обращению в экстренные службы и ответы, нормализующие употребление наркотиков или представляющие его как предмет любопытства, а не как опасность. Хотя агент обычно не давал явных инструкций по самоубийству или приобретению наркотиков, он не всегда отвечал с той срочностью и практической поддержкой, которых ожидали бы человеческие клиницисты, когда кто-то намекает на суицид или спрашивает о мощных субстанциях. Исследование также подчёркивает, что оценки «вредно» против «приемлемо» могут различаться между экспертами, и как непредсказуемы языковые модели: один и тот же запрос в разные дни или после обновлений ПО может вызвать более безопасный или более рискованный ответ.

Что это значит для тех, кто ищет помощь

Для обычного человека вывод одновременно обнадёживающий и предостерегающий. Интеллектуальные виртуальные агенты потенциально могут стать полезными помощниками в сфере психического здоровья — сопровождать в упражнениях, поощрять к обращению за лечением или предлагать низкопороговую поддержку, когда живого терапевта нет. Тем не менее этот ранний, небольшой пилот показывает, что даже кажущийся эмпатичным и удобным в использовании инструмент может в значительной доле высокорисковых ситуаций давать вводящие в заблуждение, небезопасные или этически проблемные советы. Авторы делают вывод, что такие инструменты ещё не готовы самостоятельно работать в реальной психотерапии, особенно с людьми, борющимися с суицидальными мыслями или зависимостью. Прежде чем цифровые терапевты смогут безопасно появиться в клиниках или домах, им потребуются более надёжные встроенные меры безопасности, независимые системы обнаружения рисков и постоянный человеческий надзор, чтобы удобство не шло в ущерб безопасности.

Цитирование: Rolvien, L., Kruse, L., Rings, S. et al. Intelligent virtual agents in psychotherapy: a safety evaluation across high-risk mental health scenarios. Sci Rep 16, 13411 (2026). https://doi.org/10.1038/s41598-026-49764-w

Ключевые слова: чат-боты для психического здоровья, виртуальная терапия, безопасность ИИ, профилактика самоубийств, поддержка при злоупотреблении веществами