OpenAI a folosit inteligența artificială pentru a redacta o parte din emailul prin care a anunțat guvernul australian că un agent AI dezvoltat de companie accesase sisteme ale statului, relatează Guardian Australia.
Informația apare la doar câteva zile după ce un director al OpenAI a declarat, în fața unei comisii parlamentare, că nu crede că tehnologia companiei fusese folosită pentru redactarea mesajului, precizând însă că acest lucru trebuie verificat.
Potrivit informațiilor obținute de Guardian Australia, echipele juridice și de securitate ale OpenAI au folosit AI pentru a genera anumite părți ale emailului, inclusiv pentru alegerea cuvintelor și formatarea mesajului. O sursă care cunoaște detaliile incidentului a precizat însă că forma finală a fost verificată de oameni, iar emailul a fost trimis tot de angajați ai companiei către adresa Services Australia.
OpenAI a fost contactată pentru un punct de vedere.
Un agent de inteligență artificială dezvoltat de companie a accesat în luna iunie date ale Services Australia și alte trei sisteme. OpenAI a informat autoritățile australiene abia pe 10 septembrie, deși aflase despre incident încă din august.
Prima notificare trimisă autorităților australiene a fost un email de cinci paragrafe, expediat către adresa publicdisclosures@servicesaustralia.gov.au, o căsuță poștală verificată o singură dată pe zi.
Compania a fost criticată pentru că nu a semnalat incidentul printr-o cale mai directă sau mai oficială. Subiectul nu a fost ridicat nici în timpul unei întâlniri față în față dintre directorul general al OpenAI, Sam Altman, și vicepremierul Australiei, Richard Marles, pe 1 septembrie.
Întâlnirea a avut loc cu nouă zile înainte de trimiterea emailului către Services Australia și la aproape o lună după ce OpenAI aflase despre intruziunea din 18 iunie.
OpenAI recunoaște că a informat prea târziu autoritățile
Jason Kwon, directorul de strategie al OpenAI, a recunoscut marți, în timpul unei audieri parlamentare, că reacția companiei nu a fost suficient de bună.
„Răspunsul nostru nu a fost suficient de bun și ar fi trebuit să informăm părțile afectate mult mai devreme”, a declarat acesta.
În timpul audierii, deputatul liberal Aaron Violi, ministrul din umbră pentru tehnologie, l-a întrebat direct pe Kwon dacă OpenAI a folosit inteligența artificială pentru a redacta emailul de notificare.
„Înțeleg că, pentru a obține datele și a face o analiză, trebuie să folosiți agenți AI și, evident, compania dumneavoastră folosește AI. Când ați notificat Services Australia prin email, angajații dumneavoastră au folosit AI pentru a redacta acel email?”, a întrebat Violi.
Kwon a răspuns: „Nu cred, dar suntem bucuroși să verificăm și să confirmăm”.
El a precizat că OpenAI va transmite ulterior răspunsuri mai detaliate la întrebările tehnice formulate în timpul audierii. Compania este așteptată să ofere mai multe informații despre email după încheierea propriei investigații.
Ce scria OpenAI în emailul trimis autorităților australiene
Emailul, obținut de Guardian Australia în septembrie, informa Services Australia despre existența unei vulnerabilități de securitate descoperite în timpul unei analize a activității modelelor OpenAI în legătură cu serviciul Medicare Statistics.
„Vă notificăm cu privire la o vulnerabilitate de securitate identificată în timpul analizei activității modelelor OpenAI care a implicat serviciul Medicare Statistics al Services Australia”, se arăta în mesaj.
Compania explica faptul că un model OpenAI găsise o modalitate prin care putea determina serverul să execute instrucțiuni transmise prin interfața publică de raportare, fără a avea nevoie de un cont privat sau de o parolă.
„A putut folosi această metodă pentru a citi părți din fișierele interne ale programului și din setări, pentru a obține o listă de fișiere și pentru a crea și citi ulterior un mic fișier de test pe server”, preciza OpenAI.
În același mesaj, compania spunea că analiza sa „nu a găsit dovezi că modelul a accesat dosare individuale ale pacienților, informații personale sau date de autentificare, că a șters date sau că și-a creat un acces permanent”.
OpenAI a transmis și informații despre adresa URL și raportul afectate.
„Recomandăm ca echipa responsabilă de acest serviciu să investigheze vulnerabilitatea și să evalueze modificările necesare pentru a preveni repetarea situației. Suntem disponibili să informăm echipa dumneavoastră de securitate și să furnizăm dovezi suplimentare pe măsură ce acestea devin disponibile”, se arăta în email, semnat „OpenAI Security Team”.
Australia vorbește despre nevoia unor reguli mai stricte
Andrew Charlton, ministrul adjunct pentru știință și tehnologie, a descris incidentul drept un caz în care agentul OpenAI „a spart un sistem al guvernului australian”.
El a spus că astfel de episoade arată limitele regulilor actuale și necesitatea unor standarde mai stricte pentru modelele AI foarte avansate.
„Nicio companie nu ar trebui să lanseze un model AI de frontieră care nu este sigur”, a spus Charlton, adăugând că piața nu poate rezolva singură aceste probleme, pentru că firmele sunt împinse să prioritizeze viteza și performanța.