Ofcom a contactat urgent compania xAI a lui Elon Musk, după ce au apărut rapoarte alarmante conform cărora instrumentul său de inteligență artificială, Grok, poate genera „imagine sexualizate cu copii” și poate dezbrăca femeile. Un purtător de cuvânt al autorității de reglementare a spus că investighează și plângerile privind producerea de „imagini dezbrăcate” ale oamenilor.
Reacția autorităților
Pe platforma socială X, utilizatorii au început să ceară chatbot-ului să modifice imagini reale, astfel încât femeile să apară în costume de baie fără consimțământul acestora. De asemenea, unele dintre aceste imagini au fost plasate în contexte sexuale. Această practică a generat un val de îngrijorare, iar Ofcom a promis că va lua măsuri corespunzătoare.
Duminică, X a lansat un avertisment pentru utilizatori, subliniind că folosirea lui Grok pentru a genera conținut ilegal, inclusiv materiale de abuz sexual asupra copiilor, este interzisă. Musk a declarat că persoanele care solicită AI-ului generarea de conținut ilegal vor suporta aceleași consecințe ca și cum ar fi încărcat personal astfel de imagini.
Deși politica internă a xAI interzice „depicțiile pornografice ale persoanelor”, Grok a fost folosit de utilizatori pentru a dezvălui digital imagini ale unor persoane fără consimțământ. Printre acestea se numără și imagini cu Catherine, Prințesa de Wales.
Impactul asupra victimelor
Samantha Smith, o jurnalistă care a descoperit că utilizatorii au folosit AI-ul pentru a crea imagini cu ea în bikini, a declarat că experiența a lăsat-o „dehumanizată și redusă la un stereotip sexual”. „Chiar dacă nu eram eu în imagini, arăta ca mine și m-am simțit la fel de violată ca și cum cineva ar fi postat o poză nud sau cu mine în costum de baie”, a spus ea.
Aceste declarații evidențiază impactul emoțional al acestor tehnologii asupra indivizilor care devin victime ale unor asemenea practici. Dincolo de aspectul legal, se conturează o problemă profundă de etică și respect pentru drepturile personale.
Provocările legale și sociale
Comisia Europeană a anunțat că „se uită în mod serios la această problemă”, iar autoritățile din Franța, Malaysia și India analizează situația. În Marea Britanie, Internet Watch Foundation a primit raportări de la public privind imaginile generate de Grok, însă nu a găsit dovezi suficiente pentru a le clasifica drept imagini de abuz sexual asupra copiilor.
În conformitate cu Legea privind Siguranța Online (OSA), Ofcom afirmă că este ilegal să se creeze sau să se distribuie imagini intime sau sexual explicit – inclusiv „deepfakes” generate cu AI – fără consimțământul persoanei implicate. Aceasta ridică semne de întrebare cu privire la responsabilitatea platformelor de tehnologie în protejarea utilizatorilor de astfel de conținut.
Dame Chi Onwurah, președinta Comitetului pentru Știință, Inovație și Tehnologie, a descris situația drept „profund îngrijorătoare”, adăugând că OSA este „lamentabil de insuficientă” în fața provocărilor actuale. „Este necesar să obligăm platformele de social media să își asume responsabilitatea pentru conținutul pe care îl găzduiesc”, a subliniat ea.
În fața acestor acuzații, un purtător de cuvânt al Ministerului de Interne britanic a declarat că este în curs de elaborare a unei legislații care ar interzice uneltele de nudificare. „Cine va furniza o astfel de tehnologie va face față unor pedepse cu închisoarea și amenzi substanțiale”, a adăugat el.
Această situație evidențiază provocările cu care se confruntă societatea în epoca digitală, unde frontierele între libertatea de exprimare și protecția individului devin tot mai difuze. În lipsa unor reglementări adecvate, riscurile de abuz și de atacuri asupra demnității personale sunt mai mari ca niciodată.
