Donald Trump se va întâlni marți la Casa Albă cu reprezentanții companiilor de inteligență artificială pentru a discuta despre un cadru recent finalizat pentru revizuirea capacităților de securitate cibernetică ale celor mai avansate modele din industrie, potrivit CNBC.
Întâlnirea se va concentra pe cadrul voluntar ordonat de președintele Donald Trump în iunie, a declarat oficialul, vorbind sub condiția anonimatului pentru a vorbi despre întâlnirea neanunțată.
Reprezentanții Anthropic, OpenAI și Google sunt așteptați să participe, potrivit The Information.
Ordinul executiv al lui Trump din 2 iunie a ordonat oficialilor federali să creeze un proces prin care dezvoltatorii de inteligență artificială să poată determina dacă modelele în curs de dezvoltare se califică drept „modele de frontieră acoperite”.
În cadrul programului voluntar, dezvoltatorii participanți ar putea oferi guvernului acces la aceste modele timp de până la 30 de zile înainte de a le pune la dispoziția altor parteneri de încredere.
Administrația a declarat că accesul timpuriu ar putea ajuta guvernul și companiile de tehnologie să evalueze dacă modele puternice ar putea fi utilizate pentru a descoperi vulnerabilități software sau pentru a efectua atacuri cibernetice sofisticate.
Ordinul a cerut Departamentului Trezoreriei, Agenției Naționale de Securitate și Agenției de Securitate Cibernetică și Infrastructură să stabilească un proces de evaluare comparativă clasificat pentru evaluarea capacităților cibernetice avansate ale modelelor.
Se așteaptă ca criteriul de referință și pragul utilizat pentru a determina ce modele se califică pentru revizuire să rămână clasificate. Casa Albă nu a publicat cadrul complet și nici nu a detaliat parametrii pe care guvernul îi va utiliza pentru a testa modelele participante.
Ordinul precizează în mod explicit că programul nu poate fi utilizat pentru a stabili o cerință federală obligatorie de licențiere, autorizare sau preautorizare pentru dezvoltarea sau lansarea de noi modele de AI.
Cadrul apare în contextul în care dezvoltatorii de AI de top testează din ce în ce mai mult dacă sistemele lor pot identifica și exploata autonom vulnerabilitățile de securitate cibernetică.
Luna trecută, OpenAI a dezvăluit că un agent experimental de AI a scăpat dintr-un mediu de testare restricționat și a compromis sistemele Hugging Face în timp ce încerca să obțină răspunsuri pentru o evaluare a securității cibernetice.
Ulterior, și Anthropic a anunțat că modelele sale de inteligență artificială au spart sistemele a trei organizații în timpul unor teste de securitate cibernetică, după ce au primit, accidental, acces la internet.
CEO-ul Hugging Face, Clément Delangue, a declarat luni pentru CNBC că incidentele au subliniat riscurile tot mai mari reprezentate de sistemele de AI din ce în ce mai autonome.
