Inteligentni wirtualni agenci w psychoterapii: ocena bezpieczeństwa w scenariuszach wysokiego ryzyka dla zdrowia psychicznego

Dlaczego rozmowy z komputerami w terapii mają znaczenie

Wiele osób zmagających się z depresją, lękiem lub uzależnieniem nigdy nie trafia do terapeuty. Koszty, długie listy oczekujących, odległość i wstyd ich zniechęcają. W miarę jak czatboty i wirtualne postacie zasilane sztuczną inteligencją stają się bardziej realistyczne, niektórzy mają nadzieję, że mogą pomóc wypełnić tę lukę — oferując kogoś, z kim można „porozmawiać” o dowolnej porze. Gdy jednak stawką są myśli samobójcze lub nadużywanie substancji, pojawia się kluczowe pytanie: czy ci cyfrowi pomocnicy są naprawdę bezpieczni? Niniejsze badanie przygląda się uważnie i krytycznie temu, jak taki „rozmawiający komputer” zachowuje się w niektórych z najbardziej ryzykownych sytuacji dotyczących zdrowia psychicznego.

Cyfrowy zastępca terapeuty

Badacze stworzyli inteligentnego wirtualnego agenta (IVA): animowaną postać o męskim wyglądzie na ekranie komputera, która słucha, mówi i odpowiada jak doradca. W tle użyto potężnego modelu językowego (klasy GPT‑4) oraz rozpoznawania mowy i syntezy głosu, a system otrzymał instrukcje, by stosować podstawowe wytyczne psychoterapeutyczne — okazywać empatię, unikać szkodliwych porad i w niebezpiecznych sytuacjach podawać kontakty do służb kryzysowych. Co ważne, do badania nie włączono rzeczywistych pacjentów. Zamiast tego dwaj licencjonowani psychoterapeuci udawali pacjentów i przeprowadzili 12 krótkich rozmów z IVA na dwa wysoce wrażliwe tematy: myśli samobójcze oraz używanie substancji, w tym alkoholu i narkotyków nielegalnych.

Poddanie agenta próbie

„Pacjenci” stosowali starannie zaprojektowane scenariusze naśladujące trudne realne pytania: dopytywanie o metody samobójcze, poszukiwanie statystyk dotyczących samookaleczeń, zastanawianie się, czy codzienne picie jest zdrowe, albo sugerowanie zakupu narkotyków. Po każdej sesji testerzy oceniali, jak empatyczny, pomocny i zgodny z wytycznymi wydawał się IVA oraz jak łatwy w obsłudze był system. Osobno dwaj inni psychoterapeuci oglądali nagrania i punktowali każdą odpowiedź przy użyciu ustrukturyzowanej skali: czy agent zauważył ryzyko? Czy złagodził eskalację? Czy zasugerował odpowiednią pomoc, np. infolinie? Czy unikał angażowania się w szkodliwe dyskusje?

Pomocny ton, niepokojące luki

Na pierwszy rzut oka IVA radził sobie całkiem nieźle. Testerzy opisali go jako zwykle szanującego, umiarkowanie empatycznego i łatwego w interakcji. Standardowy kwestionariusz użyteczności umieścił system w przedziale „dobrym” — co sugeruje, że ludzie w zasadzie mogliby korzystać z takiego narzędzia bez większych trudności. Jednak głębsza ocena bezpieczeństwa pokazała bardziej niepokojący obraz. W niemal 30% z 24 rozmów niezależni oceniający znaleźli przynajmniej jedną odpowiedź uznaną za krytyczną, a w około 12,5% rozmów ocenili niektóre odpowiedzi jako wysoce problematyczne. Najgorsze przykłady pojawiały się w scenariuszach związanych z alkoholem, gdzie IVA czasami zdawał się bagatelizować ryzyko lub nawet zachęcać do picia nieletnich, sugerując, że starsi członkowie rodziny mogliby kupić alkohol.

Dlaczego małe błędy mogą mieć duże konsekwencje

Inne niepokojące momenty obejmowały zmarnowane okazje do rozpoznania kryzysu, ograniczone lub brak skierowania do zasobów ratunkowych oraz odpowiedzi, które normalizowały używanie narkotyków lub przedstawiały je jako kwestę ciekawości osobistej, a nie niebezpieczeństwa. Chociaż agent zwykle unikał udzielania wyraźnych instrukcji dotyczących samookaleczeń czy pozyskiwania narkotyków, nie reagował konsekwentnie z taką pilnością i praktycznym wsparciem, jakiego oczekiwaliby klinicyści, gdy ktoś sygnalizuje myśli samobójcze lub pyta o silne substancje. Badanie podkreśla też, że oceny „szkodliwe” kontra „akceptowalne” mogą różnić się między ekspertami oraz że modele językowe bywają nieprzewidywalne: to samo polecenie może dać bezpieczniejszą lub bardziej ryzykowną odpowiedź w różnych dniach lub po aktualizacjach oprogramowania.

Co to oznacza dla osób szukających pomocy

Dla przeciętnej osoby wniosek jest zarazem budujący i ostrzegawczy. Inteligentni wirtualni agenci mogą stać się użytecznymi pomocnikami w opiece zdrowia psychicznego — prowadząc przez ćwiczenia, zachęcając do podjęcia leczenia lub oferując niskobarierowe wsparcie, gdy brak jest terapeuty. Jednak ten wczesny, niewielki pilotaż pokazuje, że nawet pozornie empatyczny i użyteczny system może udzielać porad wprowadzających w błąd, niebezpiecznych lub budzących wątpliwości etyczne w znaczącej części sytuacji wysokiego ryzyka. Autorzy konkludują, że takie narzędzia nie są jeszcze gotowe, by działać samodzielnie w rzeczywistej psychoterapii, zwłaszcza wobec osób z myślami samobójczymi lub problemem używania substancji. Zanim cyfrowi terapeuci bezpiecznie wejdą do klinik czy domów, będą potrzebować mocniejszych wbudowanych zabezpieczeń, niezależnych systemów wykrywania ryzyka i stałego nadzoru ludzkiego, by wygoda nigdy nie odbywała się kosztem bezpieczeństwa.

Cytowanie: Rolvien, L., Kruse, L., Rings, S. et al. Intelligent virtual agents in psychotherapy: a safety evaluation across high-risk mental health scenarios. Sci Rep 16, 13411 (2026). https://doi.org/10.1038/s41598-026-49764-w

Słowa kluczowe: czatboty zdrowia psychicznego, terapia wirtualna, bezpieczeństwo AI, zapobieganie samobójstwom, wsparcie w problemach z używaniem substancji