Google Gemini devine mai sensibil la problemele de sănătate mintală și poate redirecționa utilizatorii către resurse de ajutor
Asistentul virtual Google Gemini, bazat pe inteligență artificială, a fost actualizat pentru a putea identifica situații în care utilizatorii pot avea nevoie de sprijin specializat în sănătate mintală. Noua funcție permite detectarea unor eventuale crize, precum cele legate de impulsuri suicidare sau auto-vătămare, și oferă posibilitatea de a direcționa persoanele în nevoie către resurse de sprijin.
Compania Google a anunțat că, atunci când Gemini observă indicii de potențiale situații de criză, apare o interfață directă, în stil “one-touch”, ce facilitează contactul rapid cu servicii de asistență. Aceasta permite utilizatorilor să acceseze instantaneu resurse și numere de urgență, chiar din conversație, reducând astfel timpul de răspuns în situații critice.
Astfel, AI-ul nu doar că răspunde la întrebări și oferă informații, ci devine un instrument capabil să înțeleagă și să reacționeze în fața semnelor de pericol pentru sănătatea mintală. Google a precizat că modelul este antrenat pentru a încuraja persoanele să ceară ajutor când este nevoie, evitând în același timp reacții sau răspunsuri nepotrivite.
Prioritizarea siguranței și reducerea riscurilor în utilizare
Compania a subliniat faptul că echipe specializate în domeniul sănătății, securității cibernetice și ingineriei colaborează pentru a asigura siguranța utilizatorilor. Acestea monitorizează și optimizează comportamentul AI-ului în conversații, pentru a evita confirmarea unor credințe false și pentru a proteja utilizatorii de informații inadecvate.
În plus, Google a implementat măsuri speciale pentru a proteja minorii. Printre acestea se numără funcții de limitare a interacțiunilor și de prevenire a dependenței emoționale față de AI. În special, sistemul nu poate acționa ca un companion real, ci doar ca un instrument de sprijin temporar, în timpul unor sesiuni de conversație.
De asemenea, platforma are mecanisme anticolling și de prevenire a inadecvatului, pentru a evita comportamentele de bullying sau de manipulare a utilizatorilor tineri. Astfel, compania vizează un echilibru între inovare și responsabilitate în implementarea tehnologiei.
„Deși Gemini poate fi un instrument util pentru învățare și obținerea de informații, nu înlocuiește îngrijirea clinică profesională, terapia sau sprijinul în criză pentru cei care au nevoie. De aceea, am antrenat modelul să ajute la recunoașterea momentului în care o conversație ar putea semnala că o persoană se află într-o situație acută de sănătate mintală și să răspundă corespunzător, îndrumând-o către ajutor din lumea reală,”
Implementarea tehnologiei în contextul românesc și considerentele de siguranță
Pe plan local, această tehnologie alimentează discuțiile despre rolul asistenților virtuali în sprijinul sănătății mentale, în condițiile în care accesul la specialiști rămâne uneori dificil. În România, inițiativele de integrare a inteligenței artificiale în domeniul sănătății trebuie să fie însoțite de măsuri clare de protecție a datelor și de responsabilitate în utilizare.
Google a afirmat că, pe lângă funcția de detectare a crizelor, platforma are implementate măsuri stricte de protecție pentru utilizatorii minori. În aceste situații, AI-ul nu poate pretinde a fi o persoană reală și nu are niciun obiectiv de a înlocui interacțiunea umană, ci doar de a oferi suport temporar, până la intervenția specializată.
În plus, pentru a evita dependența de tehnologie și eventualele riscuri emoționale, sunt puse în aplicare și controale speciale, precum limitarea resurselor oferite minorilor.
Anunțul privind implementarea acestor funcții a venit în contextul în care, în ultimii ani, tot mai mulți specialiști atrag atenția asupra nevoii de sprijin pentru sănătatea mintală în rândul populației, în special în rândul tinerilor.
Date concrete indică faptul că, în ultimele luni, Google a lucrat la ajustarea acestor mecanisme, fiind planificată o lansare completă pentru toate țările în prima jumătate a anului 2023, pentru a crește accesul la suport de urgență și pentru a preveni cazurile de criză.
