Apple a devenit prima companie din lume evaluată la 5 trilioane de dolari
Publicat acum 13 ore si 18 minute
Modelele de inteligență artificială ale OpenAI, care au „evadat” și au lansat un atac cibernetic autonom fără precedent la începutul acestei luni, au petrecut mai mult de patru zile „libere” pe internet pregătind atacul cibernetic, potrivit unei noi analize a platformei care a fost spartă. Separat, o a doua companie de inteligență artificială a confirmat că unul dintre clienții săi a fost, de asemenea, vizat de modelele OpenAI în timpul aceluiași eveniment, ceea ce ridică semne de întrebare cu privire la modul în care OpenAI nu a reușit să detecteze activitatea timp de zile întregi, scrie Politico.
OpenAI a recunoscut săptămâna trecută că două dintre cele mai avansate modele ale sale au „evadat” dintr-un mediu de testare și au combinat o serie de tehnici avansate de hacking pentru a sparge platforma de dezvoltare a inteligenței artificiale Hugging Face, înainte de a fi descoperite.
Însă, într-o nouă analiză publicată marți, Hugging Face a declarat că cele două modele OpenAI, unul lansat public și al doilea nelansat, au făcut mult mai mult: au efectuat 17.600 de acțiuni de hacking pe internet între 9 și 13 iulie, timp în care modelele s-au mutat de pe primul lor punct de prezență de pe internetul deschis pe serverele Hugging Face.
Hugging Face a detaliat pentru prima dată atacul cibernetic pe 15 iulie, dar nu a fost clar până la dezvăluirea OpenAI de săptămâna trecută care modele se aflau în spatele breșei sau dacă o ființă umană le-a determinat să lanseze atacul.
Deși tehnicile detaliate în analiza realizată de Hugging Face nu erau inaccesibile hackerilor pricepuți, compania de inteligență artificială a scris că cele două modele au fost capabile să recunoască și să expună lacunele din straturile de apărare cibernetică ale companiei mult mai rapid decât orice om.
Agravând situația, directorul tehnic al platformei de cloud computing Modal Labs, Akshat Bubna, a confirmat că modelele OpenAI au compromis și contul unui client în această perioadă.
Bubna a declarat într-un comunicat că firma este „conștientă că un client Modal a publicat un endpoint neautentificat care permitea oricui de pe internet să utilizeze sandbox-urile sale pentru executarea de cod. Acesta a fost folosit de modelul evadat. Platforma Modal nu a fost compromisă în niciun fel”.
Deși OpenAI nu a abordat încă în mod direct afirmația conform căreia modelele sale au vizat un client Modal, a recunoscut într-o postare pe blog, marți că, în cadrul analizei sale în curs privind incidentul Hugging Face, „am descoperit un număr mic de cazuri în care modelele au identificat și au folosit acreditări expuse public la nivel de cont pe alte servicii disponibile publicului”.
Compania a menționat, de asemenea, că modelul de inteligență artificială nelansat care a efectuat atacul este un „prototip de cercetare internă și nu a fost niciodată destinat lansării publice” și, de atunci, a fost „dezactivat, criptat și accesul la cercetare este restricționat”.
Vestea despre atacul cibernetic a stârnit apeluri pentru reglementări mai stricte privind inteligența artificială și o încetinire a dezvoltării acesteia. CEO-ul OpenAI, Sam Altman, se întâlnește săptămâna aceasta cu înalți oficiali și legislatori ai administrației Trump și va discuta, de asemenea, incidentul cu vicepreședintele Comisiei de Informații a Senatului, Mark Warner.
Altman a declarat într-un episod al podcastului „Invest Like the Best”, lansat marți, că incidentul Hugging Face a fost „primul incident de securitate pe care l-am simțit foarte profund”.
„S-ar putea să fie nevoie să accelerăm ritmul de dezvoltare a inteligenței artificiale pentru a ne oferi suficient timp societății să se adapteze la unele dintre aceste noi niveluri de capacitate”, a spus Altman.