Inteligența artificială, pericole ascunse: Chatboții dau sfaturi medicale eronate în proporție alarmantă
Un studiu recent, citat de surse media importante, dezvăluie o problemă majoră în utilizarea chatboților cu inteligență artificială în domeniul medical. Rezultatele testelor efectuate pe chatbotii populari, precum Gemini (de la Google), DeepSeek, Meta AI, ChatGPT (de la OpenAI) și Grok (de la xAI), sunt îngrijorătoare. Aproape jumătate dintre răspunsurile oferite de aceștia la întrebări despre sănătate au fost evaluate ca fiind problematice.
Cercetătorii, citați de publicații de peste hotare, au analizat reacțiile chatboților la diverse întrebări din domenii medicale sensibile, cum ar fi cancerul, vaccinurile, celulele stem, nutriția și performanța atletică. Studiul a fost efectuat în februarie 2025, iar întrebările au fost concepute pentru a evalua capacitatea acestor instrumente de a oferi informații corecte și sigure. Din cele 250 de răspunsuri analizate, aproape 50% au fost considerate problematice.
Probleme cu informațiile medicale
Conform cercetărilor, 30% dintre răspunsuri au fost considerate oarecum problematice, în timp ce 19,6% au fost clasificate ca fiind extrem de problematice. Aceste rezultate ridică semne serioase de întrebare cu privire la utilizarea necontrolată a inteligenței artificiale în domenii sensibile, unde informațiile eronate pot avea consecințe grave asupra sănătății oamenilor.
Deși studiul nu a identificat diferențe semnificative majore între chatbotii testați, Grok a produs cele mai multe răspunsuri problematice. Cele mai bune rezultate au fost obținute la întrebările despre vaccinuri și cancer, în timp ce cele mai slabe au fost înregistrate în legătură cu celulele stem, nutriția și performanța atletică. De asemenea, întrebările deschise, care solicitau răspunsuri mai detaliate, au generat un număr mai mare de răspunsuri problematice.
Calitatea citărilor lasă de dorit
O altă problemă majoră evidențiată de studiu este calitatea citărilor. În cazul întrebărilor cu răspunsuri închise, chatboții au returnat aproximativ 81% din referințele solicitate. Însă, scorul mediu de completitudine a fost de doar 40%. Mai mult, niciunul dintre chatboți nu a generat o listă de referințe completă și precisă.
În plus, cercetătorii au constatat că răspunsurile oferite de acești chatboți sunt adesea greu de înțeles pentru o persoană obișnuită, fiind accesibile doar celor cu studii superioare. Autorii studiului au tras un semnal de alarmă, avertizând că utilizarea tot mai mare a chatboților cu inteligență artificială în domeniul sănătății, fără o supraveghere adecvată, riscă să amplifice dezinformarea și să pună în pericol sănătatea publică.
