Conform Mediafax: Cercetătorii de la Hacktron AI au reușit să acceseze serverele interne ale OpenAI, exploatând o serie de vulnerabilități care au început pe forumul public al companiei și au ajuns până la repository-urile private de cod. Descoperirea a fost făcută în cadrul programului oficial de recompensare a vulnerabilităților al OpenAI, iar echipa a primit o recompensă de 6.500 de dolari pentru munca depusă.
De la imagini HEIF la accesul la cod
Totul a pornit de la o vulnerabilitate descoperită în sistemul de procesare a imaginilor forumului public OpenAI, care folosește platforma Discourse. Cercetătorii au identificat o problemă cu fișierele în format HEIF/HEIC. Un fișier imagine creat special putea declanșa o vulnerabilitate într-o bibliotecă software, permițând executarea de cod pe server.
Modelul lingvistic Claude Opus 4.8 a fost folosit inițial pentru a construi un exploit, dar nu a fost suficient de fiabil pentru configurația reală. După lansarea versiunii îmbunătățite, Claude Opus 5, echipa Hacktron AI a reluat experimentul. Noul model a reușit să genereze în aproximativ trei ore un exploit funcțional și a contribuit la adaptarea acestuia pentru infrastructura Discourse.
Vulnerabilitatea s-a extins dincolo de forum
Odată ajunși în infrastructura forumului, cercetătorii au descoperit o a doua vulnerabilitate, de data aceasta în sistemul de autentificare al OpenAI. Aceasta permitea, în anumite condiții, obținerea de tokenuri de autentificare asociate conturilor utilizatorilor. Aceste tokenuri puteau fi folosite pentru accesarea diverselor servicii OpenAI, inclusiv ChatGPT și Codex.
Unul dintre conturile afectate aparținea unui angajat OpenAI și era conectat la organizația GitHub internă a companiei. Astfel, lanțul de vulnerabilități a evoluat de la un serviciu extern la sisteme interne de dezvoltare software ale OpenAI.
Demonstrarea accesului fără furt de date
Pentru a-și dovedi descoperirea, cercetătorii au folosit contul angajatului pentru a crea o cerere în monorepo-ul privat al OpenAI, un depozit mare de cod care conține mai multe proiecte ale companiei. Această acțiune a servit drept dovadă a accesului, echipa afirmând că s-au oprit înainte de a analiza sau copia informații sensibile. Prin acest experiment, au demonstrat potențialul lanțului de vulnerabilități de a accesa infrastructura internă de dezvoltare a companiei.
Reacția OpenAI și implicațiile viitoare
După raportarea vulnerabilităților prin programul de bug bounty, OpenAI a confirmat existența a două probleme distincte: una în serviciul extern Discourse și alta în propriul sistem de autentificare. Compania a remediat problemele prin restrângerea permisiunilor tokenurilor de autentificare și revocarea celor afectate.
Experimentul, de la descoperirea inițială până la demonstrarea accesului la repository, s-a desfășurat în mai puțin de 72 de ore, o mare parte din munca tehnică fiind realizată cu ajutorul modelelor AI. Acest caz subliniază o problemă tot mai prezentă în industria AI: capacitatea modelelor de a identifica vulnerabilități poate fi folosită și pentru a accelera atacurile cibernetice.
Anthropic, compania din spatele Claude, a menționat că, deși Opus 5 nu a fost antrenat specific pentru securitate cibernetică, performanțele sale în acest domeniu au crescut odată cu îmbunătățirea generală a capacităților modelului. Compania oferă cercetătorilor autorizați acces la o versiune cu mai puține restricții prin programul Cyber Verification. Cercetătorii Hacktron AI au subliniat că acțiunile lor au fost etice, desfășurându-se în cadrul unui program de securitate oficial.
Sursa: Mediafax
