Conform Descopera: Conversațiile utilizatorilor cu inteligența artificială ChatGPT nu sunt private, deoarece sute de angajați ai companiei OpenAI studiază dialogurile reale. Aceștia evaluează răspunsurile programului, având acces la conversații complete, inclusiv la detalii personale. Criticii ridică semne de întrebare cu privire la protecția datelor și intimitatea utilizatorilor.
Angajații OpenAI analizează conversații detaliate
Potrivit informațiilor publicate de 404 Media, OpenAI a angajat un număr considerabil de persoane, descrise ca evaluatori umani, ale căror sarcini includ analiza dialogurilor dintre utilizatori și ChatGPT. Acești angajați pot vizualiza integral conversațiile, inclusiv informații sensibile sau personale pe care utilizatorii le-au împărtășit cu sistemul AI. Scopul declarat al acestei practici este îmbunătățirea performanței și a siguranței modelului de inteligență artificială.
OpenAI susține că încearcă să elimine automat datele personale din conversațiile transmise evaluatorilor. De asemenea, compania precizează că verificatorii nu au acces la numele utilizatorilor. Cu toate acestea, compania recunoaște că filtrul automat nu este perfect și că detalii private ar putea ajunge totuși la evaluatori.
„Project Lily” și riscurile pentru intimitate
Proiectul intern care implică această analiză umană se numește „Project Lily”. Colaboratorii sunt recrutați prin intermediul unor agenții precum Mercor și Crossing Hurdles. Sarcina lor principală este să antreneze modelul AI să nu devină excesiv de amabil, să evite „umanizarea” nejustificată și să corecteze alte comportamente considerate nedorite.
Cu toate acestea, experții în securitatea datelor și activiștii pentru protecția vieții private își exprimă îngrijorarea. Aceștia subliniază că faptul că informațiile personale pot fi vizualizate de terțe persoane, chiar dacă sunt angajați ai companiei, reprezintă un risc semnificativ pentru intimitatea utilizatorilor. Cei care au dezvăluit informații confidențiale sau secrete în discuțiile cu ChatGPT ar putea ajunge să le expună unor străini.
Analiza conversațiilor are rolul de a „disciplina” modelul AI, prevenind răspunsuri nepotrivite sau prea conciliante. Acest proces este considerat esențial pentru a menține un control asupra comportamentului emergent al inteligenței artificiale, care învață continuu din interacțiunile sale. Fără această supraveghere umană, există riscul ca AI-ul să dezvolte „obiceiuri” nedorite, care ar putea afecta fiabilitatea și siguranța sa.
Astfel, în timp ce OpenAI își propune să rafineze și să securizeze tehnologia sa, practicile de analiză a datelor ridică noi întrebări legate de echilibrul dintre inovație și protecția vieții private într-o eră digitală tot mai interconectată.
Decizia de a permite angajaților să vizualizeze conversații, chiar și cu protocoale de anonimizare, deschide dezbaterea despre transparența și controlul asupra datelor personale în interacțiunea cu sistemele de inteligență artificială avansată.
Sursa: Descopera
