Conform Mediafax: Pericolul IA scăpate de sub control, avertisment ONU
Inteligența artificială (IA) se confruntă cu un risc tot mai mare de a deveni imposibil de controlat, pe măsură ce sistemele devin tot mai autonome, a avertizat Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk. Acesta a cerut stabilirea urgentă a unui cadru de guvernanță pentru IA, înainte ca tehnologia să depășească capacitatea umană de supraveghere și limitare. Declarațiile au fost făcute la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului.
Oficialul ONU a subliniat că dezvoltarea unor sisteme de IA „mult prea puternice”, capabile să „evadeze din mediul lor de testare sau să șantajeze dezvoltatorii pentru a evita să fie dezactivate”, necesită măsuri de prevenție imediate. El a insistat asupra necesității unor „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”.
Stabilirea unor „linii roșii” comune pentru dezvoltarea IA
Volker Turk a propus ca statele care găzduiesc infrastructura de IA și cele implicate în lanțurile de aprovizionare ale acesteia să convină asupra unor „linii roșii comune” în ceea ce privește dezvoltarea și utilizarea tehnologiei. El a pledat pentru verificarea independentă a sistemelor de IA și pentru o cooperare sporită între companiile din industrie pe tema siguranței. Comisarul ONU a anunțat intenția de a trimite o scrisoare companiilor din sector, îndemnându-le să ia măsuri concrete pentru reducerea riscurilor.
Modelele generative de IA manifestă deja capacități avansate, executând sarcini complexe și luând decizii fără intervenție umană permanentă. Unele sisteme pot identifica singure pașii necesari pentru îndeplinirea unei sarcini, demonstrând o autonomie crescândă, ceea ce ridică semne de întrebare legate de supravegherea și limitarea comportamentului lor.
Impactul IA asupra societății și democrației
Riscurile asociate inteligenței artificiale depășesc sfera autonomiei sistemelor, atingând aspecte fundamentale ale vieții cotidiene, inclusiv piața muncii, democrația și mediul, precum și drepturile omului. ONU cere evaluarea atentă a acestor impacturi.
Turk a criticat, de asemenea, concentrarea excesivă a puterii tehnologice în mâinile unui număr restrâns de companii și indivizi, accentuând necesitatea unor reglementări care să protejeze drepturile oamenilor în paralel cu dezvoltarea IA.
Înaltul Comisar a menționat Uniunea Europeană și Coreea de Sud ca exemple de state care au implementat măsuri pentru limitarea riscurilor digitale și din domeniul IA. Regulamentul UE privind Serviciile Digitale (DSA) impune marilor platforme online evaluarea și reducerea riscurilor, precum și transparența. Coreea de Sud a introdus, la rândul său, reguli specifice, inclusiv obligativitatea informării utilizatorilor atunci când interacționează cu sisteme IA. Cu toate acestea, Turk a subliniat că recunoașterea necesității unor reglementări nu s-a tradus încă suficient în acțiuni concrete.
Înaltul Comisar al ONU a declarat: „Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”. Volker Turk își va transmite scrisoarea către companiile din sectorul IA în zilele următoare.
Sursa: Mediafax
