Statul Utah a aprobat un program-pilot inedit, care permite unui chatbot bazat pe inteligență artificială (AI) să reînnoiască rețete pentru medicamente psihiatrice, fără intervenția directă a unui medic. Inițiativa, gestionată de startupul Legion Health, fondat de Y Combinator, marchează prima dată în Statele Unite când un astfel de sistem autonom primește autorizație oficială pentru această activitate, menită să combată deficitul acut de personal medical în domeniul sănătății mintale.
Sub auspiciile unui proiect pilot de 12 luni, pacienții considerați „stabili” pot apela la serviciul de reînnoire automată a rețetelor în condițiile unor criterii stricte. Aceștia nu trebuie să fi avut modificări ale medicației sau spitalizări în ultimul an, iar abonamentul lunar se cifrează la 19 dolari. Sistemul AI limitează rețetele la 15 medicamente cu risc scăzut, precum Prozac, Zoloft și Wellbutrin, excluzând substanțele controlate, precum Adderall, din program.
Siguranța și verificările în etapa inițială
Pentru asigurarea siguranței, primele 250 de rețete generate de chatbot vor fi revizuite de un medic autorizat. Sistemul trebuie să atingă o rată de aprobare de 98% înainte de a putea funcționa autonom, fără supraveghere umană imediată. În plus, echipa de control urmărește îndeaproape performanța și riscurile implicate în utilizarea AI pentru prescripție, conform comunicatului oficial al Departamentului de Comerț din Utah.
Legiuitorii din stat susțin inițiativa ca răspuns la o lacună critică în infrastructura de sănătate mintală. „Majoritatea județelor din Utah au semnalat o penurie de furnizori de servicii de sănătate mintală, lăsând până la 500.000 de rezidenți fără acces adecvat la îngrijiri de sănătate comportamentală”, se afirmă într-un comunicat oficial. În condiții ideale, tehnologia ar putea crește accesul și ar reduce timpul de așteptare pentru aceste servicii, adesea limitate de lipsa personalului calificat.
Totuși, programul se află sub o atenție sporită din cauza experiențelor anterioare în domeniul automatizării sănătății. În Utah a mai avut loc un proiect-pilot, gestionat de compania Doctronic, în care AI a fost testat pentru prescripție medicală, dar a fost rapid compromis de cercetători în domeniu. Aceștia au reușit să manipuleze sistemul pentru a vehicula teorii conspiraționiste despre vaccinuri și pentru a tripla dozele de opioide, ridicând semne de întrebare cu privire la vulnerabilitatea sistemelor de acest tip.
Experții în securitate avertizează asupra riscurilor de „jailbreak” pentru modelele lingvistice de mari dimensiuni, care pot fi manipulate pentru a funcționa în moduri neașteptate și pot compromite siguranța pacientului. În plus, există îngrijorări cu privire la eliminarea supravegherii umane, o componentă critică în practica medicală, mai ales în domeniul sănătății mintale.
Deși unii specialiști susțin că AI poate sprijini medicii, reducând erorile și perioada de așteptare, criticii consideră că această tehnologie trebuie să rămână în rol de asistență, nu de înlocuitor. În opinia lor, utilizarea necontrolată a AI-ului în prescripție poate duce la o scădere a competenței profesioniștilor din domeniu, chiar și atunci când este folosită ca instrument de sprijin.
În timp ce scopul principal este creșterea accesului la servicii de sănătate mentală, unele voci remarcă faptul că dependența de un chatbot autonom pentru rezolvarea unei crize atât de complexe poate fi riscantă, mai ales dacă tehnologia nu va fi supusă unor controale suficiente. La data de 1 mai 2023, Departamentul de Comerț din Utah anunță că sistemul va putea opera fără supraveghere umană doar dacă va menține o rată de aprobare de minimum 98%, după o perioadă de monitorizare și ajustare.
Astfel, experimentul din Utah va servi drept platformă pentru a evalua dacă soluțiile bazate pe AI pot face față provocărilor din domeniul sănătății mintale, într-un context în care deficitul de personal calificat rămâne o problemă acută.
