Amazon cumpără compania Globalstar cu 11,57 miliarde de dolari ca să concureze cu Starlink-ul lui Elon Musk
Publicat acum 4 ore si 19 minute
Mădălin Dumitru, CEO-ul companiei de securitate cibernetică SCUT, a spus, în direct la Antena 3 CNN, că modelul AI Mythos de la Anthropic „poate să pună multe probleme când vine vorba de securitate cibernetică”. Declarația vine după ce Anthropic a anunțat că nu va publica cel mai recent model al său de inteligență artificială, Mythos, deoarece acesta s-a dovedit a fi „prea periculos și autonom”.
Mythos a reușit nu doar să identifice „vulnerabilități de mare severitate” în unele dintre cele mai sigure sisteme de operare din lume, dar a reușit să și „evadeze” din laboratorul virtual în care era testat. Nu doar că a „evadat”, dar i-a dat un email inginerului care i-a sugerat să facă asta și s-a lăudat cu succesul lui pe mai multe site-uri.
Anunțul reprezintă un pas important pentru Anthropic, care în februarie a dat ușor înapoi în de la promisiunea de siguranță privind modul în care va dezvolta modelele AI. Claude Opus 4.6, considerat de companie cel mai puternic model de până acum, a fost lansat public pe 5 februarie.
Astfel, Mădălin Dumitru a spus că modelul „poate să pună multe probleme când vine vorba de securitate cibernetică”.
„Compania Anthropic și-a dat seama că acest model este extrem de periculos prin simplul fapt că este foarte avansat și a refuzat să îl lanseze. Modul în care au observat acest lucru a fost prin realizarea unor teste, iar aceste teste se fac în ceea ce se numește „sandbox”. Acestea sunt medii foarte controlate și securizate, special concepute pentru ca astfel de teste să nu poată ieși din aceste medii. Ei bine, acest model, în cadrul unui astfel de test, a reușit să iasă singur din acest sandbox și să treacă de măsurile de securitate. Ba chiar mai mult, a trimis un e-mail către cercetătorul care s-a ocupat de acest program; acesta era în parc, făcea jogging, și a primit mesajul respectiv care îi spunea: „am reușit să ies din acest sandbox”. Mai mult decât atât, a postat pe un blog întreaga activitate și tot acest test.
Ei bine, nu prea este de glumă cu astfel de modele. Modelul Mythos pare să fie unul foarte periculos și care poate să pună multe probleme când vine vorba de securitate cibernetică, pentru că poate identifica vulnerabilități foarte rapid și extrem de eficient. A identificat o vulnerabilitate care exista într-un sistem de operare de 27 de ani. Timp de 27 de ani această problemă a fost prezentă în acest sistem fără să fie identificată. Mai mult decât atât, acest sistem are capabilități impresionante. Ne imaginăm toți acești hackeri etici care identifică vulnerabilități în sistemele informatice pentru a ajuta companiile să le rezolve înainte să fie exploatate de atacatori. Acest sistem, și mai există și alte sisteme, dar acesta, fiind un sistem de inteligență artificială, identifică rapid și exploatează vulnerabilități, având chiar posibilitatea autonomă de a efectua astfel de atacuri cibernetice”, a spus Mădălin Dumitru.
El a subliniat că modelul poate ajunge în mâinile unor atacatori sau ale unor răufăcători.
„Acum ne imaginăm că acest model, care este periculos, după cum au declarat și cei de la Antropic, poate ajunge în mâinile unor atacatori sau ale unor răufăcători. De aceea, lansarea lui a fost oprită, iar în momentul de față există un proiect. Se numește Glass Wings și implică companii de top din Statele Unite. Aici vorbim despre Apple, Google, Microsoft și Nvidia, care au la dispoziție credite în valoare de 100 de milioane de dolari pentru a folosi acest model în scopul identificării propriilor vulnerabilități și al remedierii acestora înainte ca modelul să fie lansat pe piață. Viitorul sună destul de provocator când vine vorba de securitatea cibernetică”, a mai spus el.