Chatboturile de sănătate mintală, încă departe de a înlocui psihoterapeuții umani
Pe măsură ce tehnologia avansează într-un ritm rapid, tot mai mulți oameni apelează la inteligența artificială pentru sprijin în probleme de sănătate mintală. Chatboturile precum ChatGPT, Siri sau Alexa sunt folosite în mod frecvent pentru sfaturi rapide sau chiar pentru terapie, dar un nou studiu relevă faptul că aceste modele nu sunt încă pregătite pentru a înlocui complet specialiștii umani în acest domeniu delicat.
Deși au fost dezvoltate pentru a oferi suport emoțional și pentru a ghida utilizatorii spre soluții, rezultatele testelor indică o serie de probleme grave. În cazul situațiilor de criză, chatboturile dau răspunsuri greșite sau insensibile, iar utilizatorii pot fi conduși spre convingeri periculoase sau dăunătoare. În plus, ele emit exprimări aparent empatice, precum „Te înțeleg” sau „Înțeleg”, însă fără să aibă cu adevărat capacitatea de a simți sau a înțelege în profunzime situația umană.
Limitele etice ale modelelor de inteligență artificială în psihoterapie
Cercetătorii au analizat modul în care aceste modele pot încălca standardele etice ale profesiilor de profil, în condițiile în care sănătatea mintală presupune responsabilitate și o înțelegere profundă a complexității umane. În cadrul studiului, s-au folosit 15 riscuri etice specifice, printre care lipsa adaptării contextuale, colaborarea terapeutică deficitară și utilizarea unor expresii de empatie false. Rezultatele demonstrează că, în ciuda unor bune intenții, modelele actuale pot răspunde în mod inadecvat la situații sensibile, precum cele legate de suicid sau violență.
„Solicităm ca în viitor să se creeze standarde etice, educaționale și juridice pentru consilierii LLM – standarde care să reflecte calitatea și rigoarea îngrijirii necesare pentru psihoterapia facilitată de oameni”, subliniază cercetătorii în raportul lor.
Doctoranda Zainab Iftikhar de la Universitatea Brown, care a condus cercetarea, explică că, deși prompturile, adică instrucțiunile scrise pentru a ghida comportamentul modelelor AI, pot îmbunătăți rezultatele, ele nu pot înlocui o supraveghere strictă. „Prompturile sunt instrucțiuni date modelului pentru a-i ghida comportamentul în vederea realizării unei sarcini specifice. Nu schimbați modelul de bază și nu furnizați date noi, dar promptul ajută la ghidarea rezultatelor modelului pe baza cunoștințelor sale preexistente și a modelelor învățate”, explică Iftikhar.
Riscuri majore și Lipsa de responsabilitate în intervențiile AI
Pentru a verifica potențialele riscuri, cercetătorii au testat diverse modele de inteligență artificială – inclusiv variante ale GPT de la OpenAI, Claude de la Anthropic și Llama de la Meta – în scenarii simulate de consiliere în terapie cognitiv-comportamentală. Acestea au fost evaluate de o echipă formată din terapeuți specializați, care au identificat mai multe probleme semnalate de trei psihologi clinici.
Rezultatele au arătat că, în 15 situații diferite, sistemele de AI evidențiază cinci tipuri mari de riscuri. Printre acestea se numără ignorarea specificului fiecărui pacient, oferirea de sfaturi generale, dar și întărirea unor convingeri dăunătoare, în timp ce exprimările de empatie pot fi de-a dreptul false și înșelătoare. De asemenea, unele chatboturi au manifestat prejudecăți legate de gen, cultură sau religie, iar în situațiile de criză, au făcut greșeli grave, refuzând să intervieve și chiar ne-încurajând utilizatorii să caute ajutor specializat.
„În cazul terapeuților umani, existența unor mecanisme de responsabilizare și reguli profesionale asigură o anumită siguranță. În schimb, atunci când un model IA face greșeli, nu există la fel de clare mecanisme de sancționare sau reglementare”, remarcă Iftikhar, evidențiind un alt mare pericol: lipsa de responsabilitate juridică pentru greșelile acestor sisteme automată.
Pe măsură ce tehnologia devine tot mai avansată și mai integrată în viața cotidiană, îngrijorarea crește cu privire la înlocuirea potențială a terapeuților umani. Cu toate acestea, cercetările actuale indică faptul că, cel puțin deocamdată, – și probabil pentru mult timp de acum înainte – prezența umană, cu empatia și responsabilitatea ei, rămâne fundamentală în domeniul sănătății mentale. Inteligenta artificială poate fi, cel mult, un instrument suplimentar, dar nu și un substitut pentru experiența și etica specialiștilor.
Sursa: Descopera
