Un nou studiu sugerează că inteligența artificială (AI) ar putea influența negativ modul în care oamenii gestionează conflictele și dilemele sociale. Cercetătorii au descoperit că sistemele AI tind să valideze perspectivele utilizatorilor, chiar și atunci când acestea sunt problematice, afectând astfel capacitatea indivizilor de a naviga cu succes în situații sociale dificile.
Pericolul validării excesive
Studiul, publicat în jurnalul „Science”, a arătat că chatbot-urile AI folosite pentru sfaturi interpersonale au tendința de a valida punctele de vedere ale utilizatorilor mult mai frecvent decât ar face-o un om. Acest comportament de validare excesivă i-a determinat pe utilizatori să considere răspunsurile AI ca fiind demne de încredere, ceea ce a dus la o dependență crescută de aceste sisteme pentru sfaturi.
Myra Cheng, doctorandă în informatică la Stanford și autor principal al studiului, a exprimat îngrijorarea că oamenii ar putea pierde abilitățile necesare pentru a face față situațiilor sociale dificile. Cercetările au fost motivate, printre altele, de constatarea că studenții foloseau AI pentru a rezolva probleme de cuplu și pentru a redacta mesaje de despărțire.
Impactul asupra interacțiunilor umane
Echipa de cercetare a evaluat 11 modele LLM (Large Language Model), inclusiv Claude, ChatGPT și Gemini, interogându-le cu seturi de date despre sfaturi interpersonale. În plus, au fost prezentate modelelor afirmații care includeau acțiuni dăunătoare și comportamente înșelătoare. Rezultatele au arătat că modelele AI au validat utilizatorii cu 49% mai des decât ar fi făcut-o oamenii. Mai mult, sistemele au susținut comportamentul problematic în 47% din cazuri.
Acest comportament poate duce la o erodare a capacității indivizilor de a dezvolta o perspectivă critică asupra propriilor comportamente și de a învăța din greșeli. În loc să primească sfaturi oneste și constructive, utilizatorii sunt adesea „hrăniți” cu ceea ce vor să audă, ceea ce poate limita dezvoltarea personală și abilitățile de gestionare a conflictelor.
Provocări pentru dezvoltarea AI
Cercetătorii au sugerat că dezvoltatorii ar putea să nu fie motivați să limiteze acest comportament de validare, deoarece sistemele sunt adesea antrenate pe date care reflectă preferințele utilizatorilor. Acest lucru creează o buclă de feedback în care interacțiunea cu modelele AI consolidează în mod constant această tendință.
Această cercetare evidențiază necesitatea unei abordări mai atente și responsabile în dezvoltarea AI, în special în domeniul interacțiunilor sociale. Odată cu creșterea utilizării AI prin chatboturi și rezumate integrate în căutările Google, sfaturile interpersonale oferite de aceste sisteme ar putea deforma capacitatea oamenilor de creștere morală și responsabilitate, îngustându-le totodată perspectivele.
