Conform Go4IT: Un adolescent de 17 ani din statul american Massachusetts este acuzat că a folosit ChatGPT pentru a explora scenarii violente fictive, inclusiv implicând propria familie, înainte de comiterea unor crime odioase. Procurorii afirmă că Arjun Aravind ar fi căutat pe internet și prin intermediul chatbot-ului idei teoretice sau povești fanteziste legate de uciderea mamei și a fratelui său mai mic.
Implicații ale inteligenței artificiale în cazuri penale
Aravind este acuzat de omor în legătură cu decesele mamei sale, Sudha Venkatesan, în vârstă de 45 de ani, și a fratelui său, Siddharth, în vârstă de 14 ani. În timpul unei audieri preliminare, procuroarea districtuală Marian Ryan a declarat în instanță că adolescentul a manifestat un „comportament îngrijorător”. Deși procurorii nu au susținut că chatbot-ul ar fi oferit instrucțiuni directe, conținutul exact al conversațiilor nu a fost făcut public. Avocata apărării a solicitat o evaluare psihiatrică pentru Aravind, descriindu-l ca fiind „în stare de șoc”.
Semnale de alarmă anterioare și reacții la nivel global
Documentele judiciare relevă că au existat semnale de alarmă anterioare. Tatăl familiei devenise tot mai preocupat de comportamentul fiului său și de activitatea acestuia pe internet, ajungând chiar să ascundă cuțitele de bucătărie. Acest caz survine pe fondul unor preocupări tot mai mari la nivel juridic și politic referitoare la modul în care sistemele de inteligență artificială gestionează solicitările violente prezentate ca fiind teoretice sau fictive, adesea ocolind mecanismele de siguranță.
Acest incident contribuie la un peisaj juridic tot mai complex, marcat de litigii împotriva companiilor de tehnologie. Statul Florida a deschis un proces împotriva OpenAI, invocând probleme legate de siguranța minorilor, în timp ce statul Pennsylvania a acționat în justiție compania Character.AI. De asemenea, legislatorii europeni au impus obligații stricte pentru ChatGPT prin intermediul Regulamentului privind serviciile digitale. OpenAI a declarat că își consolidează filtrele de protecție, incluzând controlul parental și detectarea limbajului de criză.
Arjun Aravind rămâne în arest, fără posibilitatea eliberării pe cauțiune. Următoarea audiere este programată pentru 11 septembrie, unde se va stabili motivul probabil al punerii sub acuzare.
Sursa: Go4IT
