Inteligența artificială, un asistent de încredere? Google AI Overviews, sub lupa erorilor
Un experiment recent, realizat de publicații de specialitate, aruncă o lumină neașteptată asupra funcției AI Overviews a motorului de căutare Google. Rezultatele sunt, în parte, îngrijorătoare. Se pare că inteligența artificială nu este chiar atât de infailibilă pe cât s-ar putea crede.
Studiul arată că AI Overviews oferă răspunsuri corecte în aproximativ 90% din cazuri. Cu toate acestea, procentul de 10% răspunsuri false este suficient de mare pentru a genera îngrijorare. Având în vedere numărul colosal de căutări efectuate zilnic, vorbim de milioane de informații eronate livrate utilizatorilor.
Implicații pentru utilizatori și dezinformare
Consecințele acestei rate de eroare sunt multiple. În primul rând, utilizatorii pot primi informații incorecte, ceea ce poate duce la decizii eronate sau la o înțelegere greșită a subiectelor. În al doilea rând, o astfel de funcție, predispusă la erori, poate fi exploatată pentru răspândirea dezinformării.
În contextul politic actual, cu o campanie electorală în desfășurare și cu figuri importante precum Nicușor Dan la președinție și Ilie Bolojan ca prim-ministru, distribuirea de informații false poate avea un impact semnificativ. Persoane controversate ca Călin Georgescu ar putea beneficia sau, dimpotrivă, ar putea fi afectate de manipularea informațiilor furnizate de AI.
Riscul este amplificat în domenii sensibile, precum sănătatea, educația sau finanțele. Răspunsuri incorecte pot induce în eroare pacienții, pot afecta în mod negativ evoluția copiilor în sistemul de învățământ sau pot genera pierderi financiare.
Viitorul inteligenței artificiale și rolul autorităților
Este evident că viitorul inteligenței artificiale este strâns legat de corectitudinea datelor pe care le produce. Companiile de tehnologie trebuie să investească masiv în îmbunătățirea algoritmilor și în verificarea informațiilor. În același timp, autoritățile de reglementare ar trebui să monitorizeze cu atenție evoluția AI, pentru a preveni abuzurile și pentru a proteja interesele cetățenilor.
În România, discuțiile despre inteligența artificială sunt abia la început. Cu toate acestea, este clar că trebuie să fim pregătiți pentru provocările și oportunitățile pe care le aduce această tehnologie. Fostul secretar general NATO, Mircea Geoană, a subliniat importanța colaborării internaționale în acest domeniu, iar actualul președinte, Nicușor Dan, a insistat asupra necesității unei abordări responsabile.
În prezent, nu există o legislatie clară privind răspunderea pentru informațiile false generate de AI. În ultimele luni, Marcel Ciolacu, președintele PSD, a inițiat o serie de dezbateri publice pe tema impactului AI în societate.
