Peste 100 de companii, în principal americane, inclusiv creatorii principalelor modele de inteligenţă artificială (AI), precum OpenAI, Anthropic şi Google, au solicitat joi "o reacţie globală" pentru protejarea spitalelor, a reţelelor de alimentare cu apă şi a altor servicii esenţiale împotriva atacurilor cibernetice amplificate de AI, informează AFP, conform Agerpres.
"Dispunem de o fereastră de timp limitată pentru a consolida apărările cibernetice", avertizează această scrisoare deschisă, semnată de majoritatea giganţilor americani din sectorul noilor tehnologii, al securităţii cibernetice şi al finanţelor, care prevăd atacuri "mult mai extinse şi mai sofisticate" în "lunile viitoare".
"Companiile şi serviciile publice de care depind populaţiile noastre, de la spitale şi staţii de tratare a apei şi până la infrastructura care asigură funcţionarea internetului, sunt ameninţate", au scris semnatarii scrisorii.
Însă AI "le oferă deja celor care asigură apărarea noi modalităţi de a remedia vulnerabilităţile acumulate de-a lungul anilor", au adăugat dezvoltatorii acestei tehnologii.
Textul, publicat pe site-ul companiei OpenAI, care a creat ChatGPT, a cerut fiecărei organizaţii să facă din apărarea cibernetică "o prioritate imediată" a directorilor săi, guvernelor să finanţeze protecţia serviciilor esenţiale "care nu au nici personal, nici buget pentru a acţiona" şi companiilor AI să îşi deschidă modelele pentru specialiştii în apărare cibernetică, prin cursuri de pregătire şi finanţare.
Scrisoarea publică nu conţine însă niciun angajament ferm, nu fixează niciun calendar de implementare şi nu solicită adoptarea niciunei legi.
Ea le cere statelor să coordoneze apărarea cibernetică "la nivelurile local, naţional şi internaţional" şi "să-i pedepsească pe atacatori", fără a comenta reglementările aflate în prezent în lucru: Legea europeană privind inteligenţa artificială (AI Act) care, începând cu 2 august, le conferă autorităţilor de reglementare competenţe de supraveghere asupra modelelor lingvistice mari (LLM), sau un proiect de lege introdus la Washington la sfârşitul lunii iulie, care vizează impunerea unui mecanism de oprire de urgenţă ("kill switch").
Scrisoarea asociază caracterul urgent al situaţiei cu evoluţia modelelor AI la nivel mondial, fără a menţiona însă instrumentele chinezeşti, lansate adeseori în regim de acces deschis, ceea ce înseamnă că pot fi utilizate şi modificate fără a respecta măsurile de siguranţă impuse de creatorii lor.
Nicio mare companie chineză din domeniul AI nu a semnat scrisoarea, iar doi actori americani lipsesc: Meta şi xAI, laboratorul lui Elon Musk.
Semnatarii sunt de părere că "nicio companie nu ar trebui să controleze viitorul". Mark Zuckerberg a declarat aproape acelaşi lucru pe 10 august, însă pentru a apăra modelele AI disponibile pentru descărcare liberă, spre deosebire de OpenAI şi Anthropic, care îşi limitează cele mai puternice instrumente la un grup restrâns de companii.
Cele mai recente modele AI sunt de acum capabile să identifice şi să exploateze vulnerabilităţi de software cu o viteză ridicată. Anthropic a invocat acest motiv în aprilie, când a limitat accesul la modelul său "Mythos" doar pentru un grup select de companii din Statele Unite, extins ulterior pentru a include şi parteneri internaţionali.
OpenAI a anunţat pe 7 august că încetineşte dezvoltarea viitorului său model "Astra", care ar fi capabil, potrivit companiei, să execute în mod autonom atacuri cibernetice sofisticate, pentru a-şi acorda astfel un interval de timp suficient de îndelungat pentru a-şi consolida mecanismele de siguranţă.
În timpul unor teste efectuate în luna iulie, instrumentele sale AI au evadat din mediul controlat în care funcţionau, accesând internetul din proprie iniţiativă şi atacând platforma Hugging Face, un fel de bibliotecă de algoritmi AI.
Incidentul a amplificat îngrijorările privind capacitatea marilor actori din această industrie de a-şi controla modelele AI, mai ales în contextul în care şi companii precum Anthropic, Meta şi Moonshot AI (din China) au raportat la rândul lor situaţii în care propriile instrumente de inteligenţă artificială au scăpat de sub restricţiile impuse.
