Chatboții dau diagnostice greșite în peste 80% din cazuri, conform unui studiu recent
Un studiu recent arată că inteligența artificială (IA), folosită prin intermediul chatboților precum ChatGPT și Gemini, prezintă deficiențe semnificative în ceea ce privește capacitatea de a oferi un diagnostic medical corect. Rezultatele relevă o rată alarmantă de eroare, cu peste 80% din cazuri în care aceste instrumente conduc utilizatorii pe o pistă greșită. Imaginea alăturată ilustrează această problematică.
Riscurile utilizării IA în medicină
Studiul a analizat modul în care chatboții răspund la întrebări legate de simptome și starea de sănătate, simulând scenarii medicale reale. Rezultatele au evidențiat o lipsă de acuratețe în interpretarea informațiilor și în formularea recomandărilor. Acest lucru se datorează, în principal, lipsei de date suficiente și a unei înțelegeri profunde a complexității medicale. Chatboții, în stadiul actual de dezvoltare, au dificultăți în a diferenția între simptome similare, dar care indică afecțiuni diferite.
Utilizarea IA în domeniul medical ridică numeroase semne de întrebare. Pacienții care se bazează pe aceste instrumente pentru a obține informații medicale sunt expuși riscului de a primi sfaturi greșite, ceea ce poate duce la amânarea tratamentului adecvat sau chiar la agravarea stării de sănătate. De asemenea, confidențialitatea datelor medicale reprezintă o preocupare majoră, având în vedere sensibilitatea informațiilor personale. Totodată, lipsa unei evaluări umane în procesul de diagnosticare poate fi considerată o problemă.
Necesitatea reglementării și a îmbunătățirii IA
Experții subliniază importanța reglementării utilizării IA în medicină. Este necesară o supraveghere atentă a modului în care aceste tehnologii sunt dezvoltate și implementate, pentru a minimiza riscurile și a proteja pacienții. Dezvoltarea IA în domeniul medical trebuie să fie însoțită de o îmbunătățire semnificativă a preciziei și a fiabilității.
Pentru a reduce erorile, este esențial ca chatboții să fie antrenați pe un set de date mult mai vast și variat, care să includă informații actualizate și relevante. De asemenea, este important ca aceste instrumente să fie utilizate ca un ajutor pentru medici, nu ca un înlocuitor al experienței și judecății umane. Procesul de validare și testare a acestor tehnologii trebuie să fie riguros și transparent, implicând experți medicali cu experiență.
Impactul asupra pacienților și a sistemului medical
Rezultatele studiului au un impact direct asupra pacienților și a sistemului medical în general. Încrederea limitată în capacitățile actuale ale IA poate afecta în mod negativ modul în care pacienții interacționează cu aceste tehnologii, precum și modul în care sunt percepute de către profesioniștii din domeniul sănătății. Sistemul medical trebuie să investească în cercetare și dezvoltare pentru a asigura o tranziție sigură și eficientă către utilizarea IA în medicină.
În luna mai a acestui an, au fost semnalate peste 200 de incidente în care chatboții medicali au furnizat informații incorecte sau înșelătoare pacienților.
