OpenAI nu va lansa noul său model de inteligență artificială, GPT-6.1 Astra, din cauza unor probleme de siguranță, a confirmat marți compania care dezvoltă ChatGPT, potrivit BBC.
Sistemul de inteligență artificială, capabil să îndeplinească sarcini precum navigarea pe internet și utilizarea aplicațiilor fără intervenția directă a utilizatorului, „nu a atins nivelul necesar” în raport cu standardele companiei, a declarat Saachi Jain, șefa departamentului pentru sisteme de siguranță al OpenAI.
Marți, OpenAI a publicat și o actualizare privind incidentele produse în luna iunie, dar care nu au fost făcute publice decât săptămâna trecută. În acele cazuri, modelele companiei au accesat fără autorizație site-uri și sisteme ale guvernului australian.
Aceste incidente, precum și alte breșe similare provocate de modele dezvoltate de marile companii de inteligență artificială, au intensificat în ultimele săptămâni dezbaterea privind riscurile asociate acestei tehnologii.
Mai mulți lideri din domeniul AI, inclusiv Sam Altman, directorul OpenAI, și Dario Amodei, șeful Anthropic, au cerut industriei să încetinească ritmul dezvoltării, din cauza preocupărilor legate de riscurile asociate tehnologiei.
Ce probleme la ChatGPT 6.1 Astra au dus la anularea lansării
Decizia OpenAI reprezintă un caz rar în care un dezvoltator important de inteligență artificială renunță la lansarea unui nou produs din motive de siguranță.
Modelul nu a îndeplinit cerințele în ceea ce privește „menținerea în limitele domeniului și ale autorizării, precum și modul în care comunică utilizatorului tipul de activitate pe care a desfășurat-o”, a explicat Jain.
„Vrem să ne asigurăm că dezvoltarea modelelor noastre este sigură, indiferent dacă acestea sunt utilizate în cadrul companiei sau sunt lansate pentru utilizatori. Însă, atunci când le punem la dispoziția utilizatorilor, avem standarde extrem de ridicate în ceea ce privește siguranța și alinierea”, a adăugat ea.
Modelul agentic emblematic GPT-6 Astra a fost lansat în septembrie și este specializat în raționament complex și executarea autonomă a unor sarcini. OpenAI a declarat că acesta este rezultatul unor „ani de cercetare și al unor investiții majore”.
OpenAI urmează să organizeze marți, la San Francisco, conferința anuală pentru dezvoltatori DevDay, în cadrul căreia sunt așteptate mai multe anunțuri. Nu este clar dacă printre acestea se va număra și o nouă versiune a Astra.
Controalele de securitate ale companiei au fost supuse unei examinări intense după mai multe incidente de amploare în care a fost implicată tehnologia sa.
Atacurile din Australia
Săptămâna trecută, premierul australian Anthony Albanese a anunțat că un agent OpenAI neautorizat a accesat și compromis site-uri și sisteme guvernamentale în luna iunie, într-un incident despre care experții au spus că ar reprezenta primul caz cunoscut de acest fel la nivel mondial.
Albanese a criticat OpenAI pentru că a notificat guvernul australian prin intermediul unei adrese de e-mail generale, în loc să contacteze direct oficialii.
OpenAI a declarat marți, într-un comunicat, că regretă incidentul și că „ar fi trebuit să gestioneze mai bine modul în care a reacționat”.
Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health și Australian Institute of Health and Welfare au fost afectate, a precizat OpenAI.
Compania a afirmat că a început investigațiile asupra incidentelor imediat ce a aflat despre ele, la jumătatea lunii august, și că a notificat organizațiile afectate în perioada 10-24 septembrie.
„Scopul nostru a fost să oferim agențiilor afectate o prezentare detaliată a situației după finalizarea investigației”, a transmis OpenAI, adăugând că ar fi trebuit să comunice mai rapid primele concluzii și să mențină autoritățile australiene la curent cu evoluția anchetei.
OpenAI a mai anunțat că va dezvolta „abordări practice” prin care dezvoltatorii și guvernele să poată identifica și comunica în viitor incidentele asociate inteligenței artificiale.
Compania va finanța măsuri de securitate cibernetică, va oferi sprijin dedicat agențiilor afectate și va înființa un grup de lucru pentru gestionarea riscurilor generate de agenții AI din ce în ce mai avansați.
De asemenea, compania a anunțat că un director de top al OpenAI va merge în Australia pentru a participa, pe 6 octombrie, la o audiere a Comisiei mixte pentru inteligență artificială.
În luna iulie, OpenAI a anunțat că sistemele sale de inteligență artificială au accesat internetul și au compromis platforma pentru dezvoltatori open-source Hugging Face, determinând cercetători și oficiali să ceară controale mai stricte asupra tehnologiei.
Nvidia a lansat instrumente software de siguranță pentru AI
Luni, gigantul producător de cipuri Nvidia a lansat un set de instrumente software de siguranță pentru platformele autonome de inteligență artificială, cunoscute sub numele de agenți. Compania a afirmat că acestea ar fi putut preveni atacul asupra Hugging Face.
Unul dintre noile instrumente folosește funcții hardware ale cipurilor Nvidia pentru a izola și limita acțiunile agenților AI.
Directorul Nvidia, Jensen Huang, a respins în mare parte apelurile pentru reglementări mai stricte în domeniul inteligenței artificiale, susținând că agenții neautorizați reprezintă o problemă de inginerie care poate fi rezolvată.
Nvidia a convenit, la începutul acestei luni, să cumpere Hugging Face pentru 12,9 miliarde de dolari (9,74 miliarde de lire sterline).
Papa leon îl critică pe șeful Nvidia
Papa Leon al XIV-lea a declarat luni, în timpul unei vizite în Franța, că tehnologia „trebuie luată în serios” și și-a exprimat scepticismul față de opiniile lui Huang.
Suveranul pontif a spus că a citit că directorul Nvidia a anunțat că ar putea exista o modalitate de a introduce mecanisme de protecție în anumite modele de inteligență artificială.
„Tot el este însă cel care spune că nu ar trebui impuse limite și că nu ar trebui să existe reglementări guvernamentale”, a afirmat Papa.
„Este o problemă despre care cred că trebuie să ne așezăm și să discutăm”, a adăugat Papa Leon, care a avertizat anterior asupra riscului de „a ne pierde umanitatea” în fața mașinilor.
BBC a solicitat un punct de vedere din partea Nvidia.
Președintele SUA, Donald Trump, și președintele Camerei Reprezentanților, Mike Johnson, urmează să îi primească marți, la Casa Albă, pe mai mulți directori din industria tehnologiei pentru a discuta despre reglementarea inteligenței artificiale.
Trump a minimalizat îngrijorările privind riscurile AI, catalogându-le drept o „farsă”. El susține că Statele Unite au deja suficiente legi în domeniu și că singurul „mecanism de protecție” de care are nevoie tehnologia este un președinte „puternic și inteligent”.