Tehnologie

Papa, avertisment IA: Nu delegați mașinilor decizii vitale

Papa, avertisment IA: Nu delegați mașinilor decizii vitale

Conform Mediafax: Suveranul Pontif, Papa LEON al XIV-lea, a lansat un apel urgent privind necesitatea unor măsuri mai ferme în gestionarea riscurilor inerente dezvoltării inteligenței artificiale (AI). Declarațiile au fost făcute în cadrul întâlnirii „Viitorul inteligenței artificiale: un dialog între Vatican și lumea științifică privind dezvoltarea și aplicațiile tehnologiilor inteligente”, un eveniment ce a reunit reprezentanți din diverse țări, conform informațiilor publicate de Vatican News.

Principii pentru dezvoltarea AI

Papa LEON al XIV-lea a subliniat o „îngrijorare tot mai mare” cu privire la direcția actuală a AI, afirmând că, deși se recunoaște necesitatea unui anumit parcurs, „nu se face încă suficient pentru a avansa” în implementarea măsurilor de siguranță. Suveranul Pontif a prezentat cinci principii esențiale care ar trebui să ghideze dezvoltarea AI, printre acestea numărându-se convingerea că viitorul acestei tehnologii nu este predestinat.

Un punct central al discursului a fost reamintirea faptului că mașinile sunt instrumente create de om și nu trebuie confundate cu persoane. Papa a accentuat că anumite decizii, cu implicații profunde, nu trebuie niciodată delegate inteligenței artificiale. El a explicat că viitorul AI depinde în mod direct de alegerile pe care le fac oamenii, aceștia având responsabilitatea de a-i orienta dezvoltarea și de a respinge aplicațiile considerate periculoase.

Avertisment privind armele autonome

Papa LEON al XIV-lea a avertizat în mod specific asupra tendinței de a atribui sistemelor AI drepturi sau personalitate juridică, subliniind că o astfel de abordare ar putea estompa responsabilitatea umană și ar putea lăsa victimele unor erori în fața unor entități impersonale.

Unul dintre cele mai stringente aspecte abordate a vizat utilizarea AI în decizii care pot pune în pericol vieți omenești. Papa a exemplificat situații precum includerea unei persoane pe o listă de ținte sau introducerea datelor sale într-o bază de date pentru controlul frontierelor, unde omul riscă să fie redus la o simplă informație. El a reiterat necesitatea ca deciziile care afectează viața umană, libertatea și utilizarea forței să rămână întotdeauna sub o „supraveghere umană eficientă, informată și responsabilă”. În acest context, Papa a cerut ca inteligența artificială să fie „dezarmată” și a încurajat statele care se vor reuni la Geneva în luna noiembrie să ia măsuri concrete pentru interzicerea armelor autonome letale.

AI pentru binele comun

Un alt principiu fundamental susținut de Papa LEON al XIV-lea este că tehnologiile inteligente trebuie să servească binele comun și să nu devină instrumente exclusive ale intereselor unei minorități. Suveranul Pontif a pledat pentru o distribuție echitabilă a beneficiilor progresului tehnologic și pentru crearea unor instituții capabile să transpună principiile etice în reguli concrete. Aceste instituții ar trebui să stabilească standarde comune, să asigure supraveghere independentă și să implementeze mecanisme clare de responsabilizare. Astfel, deciziile privind dezvoltarea și utilizarea AI vor putea fi verificate și contestate, iar eventualele prejudicii vor putea fi remediate. Papa a încheiat prin a mulțumi participanților pentru contribuțiile lor și a îndemnat la continuarea colaborării într-un spirit de dialog și responsabilitate reciprocă.

Sursa: Mediafax