Cercetătorii trag un semnal de alarmă: chatbot-urile medicale greșesc diagnosticile în peste 80% din cazuri
Modelele lingvistice de tip chatbot, precum ChatGPT și Gemini, pot oferi diagnostice medicale eronate în mai mult de 80% din cazuri. Un studiu recent, realizat de specialiști din Massachusetts, confirmă riscurile utilizării acestor instrumente în scopuri medicale, fără o supervizare adecvată. Rezultatele studiului evidențiază necesitatea unei abordări prudente și a unei informări corecte a publicului cu privire la limitele inteligenței artificiale în domeniul sănătății.
Pericolul informațiilor incomplete și eronate
Studiul a analizat performanța chatbot-urilor în diagnosticarea afecțiunilor medicale. Rezultatele au arătat că aceste instrumente au dificultăți majore în a oferi informații corecte și complete. Lipsa datelor relevante și incapacitatea de a interpreta corect simptomele au condus frecvent la recomandări medicale greșite. Astfel, pacienții riscă să primească un diagnostic incorect sau să fie orientați către tratamente inadecvate. Consecințele pot fi grave, de la amânarea tratamentului corect la agravarea stării de sănătate. În plus, chatbot-urile nu pot înlocui experiența și intuiția medicilor.
Impactul asupra pacienților și a sistemului medical
Pacienții care se bazează pe chatbot-uri pentru informații medicale și consultanță pot fi induși în eroare. Consecințele unei diagnosticări greșite pot fi multiple. Încrederea excesivă în aceste instrumente poate determina pacienții să întârzie sau să evite consultul medical de specialitate, afectând astfel prognosticul bolii. Totodată, utilizarea necontrolată a chatbot-urilor medicale poate genera presiuni suplimentare asupra sistemului medical, prin creșterea numărului de consultații și investigații necesare pentru corectarea erorilor. Este vitală educarea publicului cu privire la limitele inteligenței artificiale și la importanța consultării unui profesionist medical calificat.
Recomandări pentru utilizarea responsabilă a inteligenței artificiale în medicină
Autorii studiului subliniază importanța dezvoltării unor instrumente de inteligență artificială mai precise și mai fiabile în domeniul medical. Aceasta include antrenarea modelelor lingvistice cu seturi de date mai ample și mai diverse, precum și implementarea unor mecanisme de validare și verificare riguroase. De asemenea, este necesară crearea unor ghiduri clare pentru utilizarea acestor instrumente, astfel încât utilizatorii să înțeleagă limitele lor și să nu le considere înlocuitori ai medicilor. Colaborarea între cercetători, dezvoltatori și medici este esențială pentru a asigura o utilizare responsabilă și etică a inteligenței artificiale în medicină, protejând astfel sănătatea pacienților.
În urma acestui studiu, se recomandă o revizuire atentă a modului în care chatbot-urile medicale sunt folosite în prezent, punându-se accentul pe nevoile utilizatorilor și pe asigurarea unei informări adecvate.
