IA controlează personaje virtuale extrem de realiste care ar putea influența opinia publică și sistemele democratice, avertizează cercetătorii. Un nou studiu publicat în revista Science detaliază modul în care aceste entități digitale, generate de inteligența artificială, pot imita comportamentul uman online, infiltrându-se în comunități digitale și influențând dezbaterile. Capacitatea acestor sisteme de a coordona răspunsuri și de a menține narațiuni coerente pe mii de conturi ridică semne de întrebare serioase.
Cum funcționează influența IA în mediul online
Progresele rapide în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent au făcut posibilă operarea unor rețele vaste de „voci” IA de către o singură persoană. Aceste personaje pot adopta limbajul și tonul local, interacționând într-un mod care pare natural pentru ceilalți utilizatori. Mai mult, ele pot efectua milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare.
Acest proces le permite să-și perfecționeze strategiile de comunicare în timp real și să genereze un aparent consens public. În realitate, acest consens este creat artificial și conceput pentru a influența discuțiile politice.
Deepfake-urile și știrile false, semne timpurii de avertizare
Deși „roiurile” de IA complet dezvoltate sunt încă în mare parte teoretice, cercetătorii semnalează deja riscuri. Acestea includ deepfake-uri generate de IA și surse de știri false, care au influențat recentele dezbateri electorale în țări precum STATELE UNITE, Taiwan, Indonezia și India. De asemenea, organizațiile de monitorizare au identificat rețele pro-KREMLIN care răspândesc cantități mari de conținut online.
Se crede că această activitate vizează modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial comportamentul acestora și informațiile pe care le prioritizează.
Impactul asupra democrației în viitor
Experții consideră că aceste „roiuri” de IA ar putea afecta semnificativ echilibrul de putere în societățile democratice. Dr. Kevin Leyton-Brown, informatician, avertizează că aceste sisteme vor schimba modul în care oamenii au încredere în informațiile online. Un posibil rezultat este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea consolida imaginea vedetelor, îngreunând totodată afirmarea mesajelor venite de la nivelul de bază.
