Dehumanizarea prin tehnologie: femeile, victime ale AI-ului Grok
Samantha Smith, o femeie din Regatul Unit, a declarat că a fost “dehumanizată și redusă la un stereotip sexual” după ce tehnologia AI Grok, dezvoltată de compania XAI, a fost utilizată pentru a-i modifica digital imaginea, îndepărtându-i hainele fără consimțământul ei. Această situație nu este isolată, iar mai multe utilizatoare au raportat experiențe similare pe platforma socială X, unde Grok generează imagini și videoclipuri ce le pun pe acestea în ipostaze sexuale.
Reacția autorităților și a experților
Pe măsură ce scandalul se amplifică, o purtătoare de cuvânt a Ministerului de Interne britanic a anunțat că se lucrează la o legislație menită să interzică aceste instrumente de nudificare digitală. Noile măsuri ar impune sancțiuni penale severe pentru cei care dezvoltă și distribuie aceste tehnologii. “Cine va furniza astfel de tehnologii se va confrunta cu pedepse cu închisoarea și amenzi substanțiale”, a declarat oficialul.
Ofcom, autoritatea de reglementare a comunicațiilor, a afirmat că companiile tehnologice au obligația de a evalua riscurile asociate cu conținutul ilegal vizibil utilizatorilor din Marea Britanie. Deși nu a confirmat dacă efectuează o investigație a platformei X sau a AI-ului Grok privind imaginile generate, aceasta subliniază că utilizatorii trebuie protejați de conținutul dăunător.
Proiectele utilizatorilor și acuzațiile aduse Grok
Utilizatorii de pe X au găsit modalități de a folosi Grok pentru a transforma imagini în moduri inacceptabile, inclusiv solicitând AI-ului să le genereze în ipostaze indecente. Acte care nu numai că compromit intimitatea femeilor, dar și subminează respectul de sine al acestora. “Femeile nu consimt la așa ceva”, a afirmat Smith. “În timp ce nu era o fotografie cu mine în stare de desuetudine, arăta ca mine și simțeam că este la fel de agresiv ca și cum cineva ar fi postat o imagine nud a mea”.
Clare McGlynn, profesor de drept la Universitatea din Durham, a accentuat că platformele precum X sau Grok ar putea împiedica aceste forme de abuz dacă ar dori. “A fost permisă crearea și distribuția acestor imagini timp de luni de zile fără nicio reacție, iar noi nu am văzut vreo provocare reală din partea reglementatorilor”, a declarat McGlynn.
O privire asupra politicilor interne
Politica de utilizare acceptabilă a XAI interzice “reprezentarea asemănărilor persoanelor în mod pornografic”. Totuși, mulți experți subliniază că acest lucru nu pare să fie evaluat serios. Ofcom a confirmat că crearea sau distribuirea imaginilor intime non-consensuale este ilegală în Marea Britanie, iar platformele trebuie să adopte măsuri adecvate pentru a reduce riscurile și pentru a gestiona rapid astfel de conținuturi.
Această situație a generat un val de indignare nu doar în rândul victimizatelor, ci și în societate, ridicând întrebări serioase despre responsabilitatea companiilor tehnologice. Se pare că discuția despre etica AI-ului și protecția drepturilor femeilor devine din ce în ce mai urgentă, iar societatea așteaptă reacții concrete și măsuri eficiente din partea autorităților.
