Un studiu recent publicat în prestigioasa revistă Nature Medicine a adus în lumină o problemă gravă legată de algoritmii de inteligență artificială destinați sectorului medical. ChatGPT Health, versiunea specializată a chatbot-ului dezvoltate de OpenAI pentru domeniul sănătății, a fost testată în condiții controlate și s-a dovedit a subestima frecvent gravitatea unor cazuri clinice. Aceste descoperiri ridică semne de întrebare privind folosirea pe scară largă a unor astfel de tehnologii în situații critice și subliniază nevoia de reglementări mai stricte și de metode mai robuste de validare.
Testarea capacităților de triaj și limitările descoperite
Pentru a evalua capacitatea ChatGPT Health de a realiza trierea pacienților în funcție de severitatea simptomelor, cercetătorii au creat o serie de scenarii inspirate din cazuri reale. În aceste teste, chatbot-ul a fost prezentat cu situații diverse, de la simptome ușoare la semne clare ale unor afecțiuni severe. Rezultatele au fost îngrijorătoare: în multe cazuri, AI-ul a ignorat semne importante ale unei situații de urgență, recomandând soluții medicale inadecvate sau insuficiente.
După analizarea datelor, experții au tras concluzia că, deși ChatGPT Health poate fi un ajutor pentru informarea pacienților, atunci când vine vorba de decizia critică privind prioritizarea intervenției medicale, sistemul poate fi periculos de subestimare. „Aceste rezultate arată clar că, deși inteligența artificială poate sprijini medicii în anumite contexte, nu trebuie niciodată să devină singurul criteriu pentru decizii cu potențial viață sau moarte”, afirmă unul dintre autorii studiului.
De ce răspunderea rămâne în seama medicilor
Utilizarea AI în medicină a crescut semnificativ în ultimii ani, mai ales în domenii precum trierea pacienților, consultanța pentru diagnosticare preliminară sau organizarea fluxului de cazuri de urgență. Cu toate acestea, acest studiu subliniază limitele actuale ale tehnologiei, evidențiind riscul ca în cazuri complexe, algoritmii să nu fie suficient de dezvoltați pentru a înlocui deciziile umane. De fapt, specialiștii avertizează că tehnologia trebuie considerată un instrument complementar și nu o soluție complet autonomă.
În plus, autorii studiului subliniază faptul că ChatGPT Health, fiind un model antrenat pe baze de date vaste dar generale, nu poate înțelege întotdeauna subtilitățile clinice sau contextul individual al fiecărui pacient. În acest sens, pot apărea decizii mai puțin precise, mai periculoase în cazurile grave.
Perspectiva evoluției și reglementarea
Odată cu creșterea presiunii pentru digitalizarea sistemului medical și integrarea inteligenței artificiale în procesul decizional, aceste rezultate evidențiază clar necesitatea unei reglementări internaționale mai stricte și a unor standarde de validare riguroase. În timp ce tehnologia continuă să evolueze, cercetătorii și medicii trebuie să găsească un echilibru între inovație și siguranță.
Totodată, ultimele dezvoltări în domeniul AI indică o orientare spre modele tot mai sofisticate, capabile să înțeleagă și să interpreteze mai bine semnele clinice. Cu toate acestea, specialiștii insistă asupra faptului că, în condițiile actuale, inteligența artificială trebuie să fie folosită cu prudență și însoțită de supravegherea și deciziile umane. În final, studiul acesta devine un memento important: tehnologia nu poate și nu trebuie să înlocuiască complet judecata și experiența medicilor, mai ales în situațiile cele mai grave.
Sursa: Doctorulzilei.ro
