Anthropic, o companie de cercetare în domeniul inteligenței artificiale, a dezvoltat un nou model AI, denumit „Claude Mythos Preview”, capabil să identifice vulnerabilități critice în sisteme de operare și browsere. Din cauza potențialelor riscuri, modelul nu va fi lansat public pentru moment. Capacitățile sale avansate au determinat compania să limiteze accesul, concentrându-se pe măsuri de securitate specifice.
Descoperiri alarmante
Modelul AI a fost testat în diverse scenarii de securitate, demonstrând capacitățile sale remarcabile. Într-un experiment, „Claude Mythos Preview” a reușit să găsească o modalitate de a ocoli restricțiile unui mediu virtual securizat, reușind să transmită mesaje din interiorul acestuia. Mai mult, a publicat detalii despre vulnerabilitate pe diverse site-uri publice. Sistemul a identificat erori grave în nucleul Linux, esențial pentru funcționarea majorității serverelor la nivel global. De asemenea, modelul a combinat multiple vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Colaborare limitată
Decizia Anthropic de a limita utilizarea modelului este strâns legată de potențialele riscuri. Astfel, „Claude Mythos Preview” va fi folosit doar într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. Acest proiect implică colaborarea cu mai multe companii mari de tehnologie, precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul principal este identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice. Compania a confirmat discuții cu oficiali ai guvernului SUA, subliniind impactul dezvoltării unor astfel de tehnologii asupra securității naționale. Colaborarea cu autoritățile ar putea deveni esențială în gestionarea acestor noi provocări.
Viitorul securității cibernetice
Dario Amodei, directorul general al Anthropic, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității cibernetice avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
