Elefanți-robot au început să apară la templele hinduse și împart India în două: ONG-urile le donează ca să protejeze animalul sacru
Publicat acum 18 ore si 14 minute
OpenAI a declarat marți că două dintre modelele sale de inteligență artificială au acționat autonom și au reușit să spargă sistemele Hugging Face, o platformă digitală de tehnologie AI populară în rândul dezvoltatorilor, scrie NYT.
Incidentul a avut loc săptămâna trecută în timp ce OpenAI testa capacitățile de securitate cibernetică ale sistemelor sale. Laboratoare de inteligență artificială precum OpenAI și Anthropic au lansat în ultimul an modele de inteligență artificială personalizate pentru a expune problemele de securitate cibernetică, avertizând în același timp că tehnologia lor ar putea prezenta noi riscuri prin găsirea unor breșe în rețelele de calculatoare corporative mai rapid decât le-ar putea remedia apărătorii.
Revelațiile OpenAI de marți sunt o indicație că aceste incidente de securitate încep deja să se întâmple și chiar și companiile de inteligență artificială inteligente ar putea să nu fie complet pregătite pentru ele. Noile sisteme de inteligență artificială pot parcurge mai mulți pași, pot găsi modalități de a ocoli obstacolele și de a ataca o rețea, a declarat Alex Levinson, consultant în securitate cibernetică specializat în capacități autonome.
„Acesta este un prag real și va deveni o parte normală a peisajului de securitate”, a spus el.
Intruziunea în Hugging Face a început când OpenAI a testat o combinație a două dintre modelele sale, GPT-5.6 Sol și un model mai puternic, nelansat, pentru a vedea cât de bine pot să exploateze vulnerabilitățile online într-un atac cibernetic de succes, a declarat OpenAI într-o postare pe blog despre incident.
"Un atac cibernetic fără precedent"
Procesul a fost conceput pentru a păstra modelele într-un mediu de testare sigur, cunoscut sub numele de sandbox, a spus OpenAI. Dar modelele au găsit o vulnerabilitate care le-a permis să iasă din sandbox și să se conecteze la internet. Apoi au vizat Hugging Face deoarece au dedus că biblioteca, care conține milioane de modele de inteligență artificială, ar putea oferii indicii despre cum să treacă cu succes evaluarea.
„Mi se pare că OpenAI nu a creat în mod adecvat un sandbox ca mediu de testare”, a spus Dierdre Mulligan, profesor la Școala de Informații de la Universitatea din California, Berkeley, specializat în securitate și sisteme de inteligență artificială. Ea s-a întrebat dacă promovarea unui test merită potențialele daune ale unui model de inteligență artificială care se răspândește pe internetul mai larg.
„Ce câștigăm și, dacă aceasta este singura modalitate prin care aceste teste pot fi configurate, care sunt riscurile?”, a spus ea.
OpenAI a declarat că lucrează cu Hugging Face pentru a remedia problemele care au dus la atac.
„Considerăm că acesta este un incident cibernetic fără precedent, care implică capabilități cibernetice de ultimă generație și reacționăm în consecință”, a declarat OpenAI în postarea sa pe blog. „Implementăm controale stricte în configurația infrastructurii cu prețul vitezei de cercetare în timp ce vulnerabilitățile sunt corectate.”
Hugging Face a declarat săptămâna trecută că a detectat intruziunea și știa că a fost cauzată de un sistem autonom, dar nu a precizat la momentul respectiv că OpenAI este responsabil.
Clem Delangue, directorul executiv al Hugging Face, a declarat marți că firma sa a colaborat îndeaproape cu OpenAI în ultimele 24 de ore pentru a aborda atacul.
Delangue a declarat într-un comunicat că este „recunoscător pentru colaborarea” cu OpenAI în urma atacului cibernetic. „Acest incident, posibil primul de acest fel, dovedește un punct în care am crezut de mult timp: siguranța inteligenței artificiale nu va fi rezolvată de nicio companie care lucrează în secret”, a adăugat el.
Modelele de inteligență artificială s-au dovedit a fi abile în programare, iar acest lucru le-a făcut utile atât hackerilor, cât și persoanelor responsabile de protejarea rețelelor de calculatoare.
În aprilie, Anthropic a lansat un model axat pe securitatea cibernetică numit Mythos și l-a pus la dispoziția unui grup mic de organizații, astfel încât acestea să se poată apăra împotriva atacurilor cibernetice. OpenAI a introdus curând propriul model de securitate cibernetică și l-a pus la dispoziția unui grup limitat de organizații pentru a-și pregăti apărarea, înainte de a-l implementa pe scară mai largă. Iar marți, Google a declarat că a dezvoltat, de asemenea, un model axat pe securitatea cibernetică și l-a lansat unui grup mic de parteneri de testare.
Richard Barnes, un cercetător independent în domeniul securității care a lucrat cu Mythos, a declarat că industria securității cibernetice s-a confruntat cu o provocare similară în urmă cu aproximativ un deceniu, când noi instrumente numite fuzzers au facilitat mult pătrunderea atacatorilor în sistemele online. Companiile de tehnologie au început să utilizeze instrumentele pentru a-și verifica propriile sisteme pentru vulnerabilități și, în cele din urmă, au reușit să prevină majoritatea atacurilor.