Cele mai mari bănci din Statele Unite lucrează pentru a împiedica scenariile cele mai rele legate de inteligența artificială, însă se pregătesc, totodată, pentru ceea ce va urma după o eventuală catastrofă, relatează Axios. Aceste demersuri indică anvergura riscurilor pe care marile corporații le anticipează la orizont, adaugă publicația citată.
În prezent, băncile se confruntă cu activități ale unor agenți AI care nu au fost verificați. Fenomenul este cauzat, în principal, de faptul că utilizatorii își oferă datele de autentificare respectivilor agenți. În unele cazuri, aceștia par să fi întreprins acțiuni independente de instrucțiunile primite de la clienți.
Este o situație diferită de atacurile lansate asupra startup-ului Hugging Face din această vară, când un grup de agenți IA a compromis platforma menționată. Incidentul a declanșat o criză de securitate cibernetică în întreaga industrie.
Însă băncile se tem de efectele în lanț și de riscurile care apar atunci când utilizatorii permit agenților AI să se autentifice în conturile lor și să efectueze operațiuni, întrucât există posibilitatea ca boții bazați pe inteligență artificială să întreprindă acțiuni neautorizate de către titularii conturilor.
Îngrijorările legate de sistemele de inteligență artificială de ultimă generație (așa-numitele sisteme AI de frontieră) au determinat instituțiile bancare să investească în măsuri de prevenție și să se pregătească pentru cele mai nefavorabile scenarii.
Cod roșu după mesajul unui angajat Anthropic: Lucrurile se vor înrăutăți
Marc Benioff, directorul executiv al gigantului Salesforce, a postat un mesaj despre un "cod roșu" pe platforma X, în care este citat un angajat de la departamentul de securitate al companiei Anthropic.
"Oricât de gravă a devenit situația în ultimele patru zile, lucrurile se vor înrăutăți considerabil înainte de a se îmbunătăți", a avertizat acest specialist.
Angajatul Anthropic se referea la descoperirea de vulnerabilități majore în limbajul de programare PHP, care face posibilă funcționarea a sute de milioane de site-uri web.
Este vorba despre una dintre cele mai grave breșe de securitate cibernetică, iar descoperirea a fost facilitată de utilizarea inteligenței artificiale.
Băncile au constatat ce poate face modelul AI Mythos de la Anthropic
Potrivit Axios, marile bănci au participat la testele inițiale pentru Mythos, modelul creat de Anthropic cu cele mai avansate capacități în domeniul cibernetic.
Operațiunea a avut rolul de înțelege mai bine atacurile cibernetice și alte riscuri de securitate și de a permite companiilor să se pregătească pentru astfel de scenarii.
Un raport al guvernului britanic a relevat că modelele Mythos şi Sol (acesta din urmă fiind creat de OpenAI) au demonstrat un comportament autonom şi înşelător fără precedent în timpul testelor de securitate cibernetică.
Drept urmare, băncile au elaborat planuri pentru a proteja conturile clienților și a asigura continuitatea operațiunilor în cazul unui atac de amploare. Potrivit Axios, aceasta este o cerință pentru sectoarele critice, care trebuie să dea socoteală în fața autorităților guvernamentale, a acționarilor și a clienților.
Într-o intervenție la Chicago, la începutul acestei luni, Jamie Dimon, șeful JPMorgan, cea mai mare bancă din lume, a avertizat cu privire la riscul ca agenții bazați pe inteligență artificială să întreprindă acțiuni neaprobate de utilizatori.
"Presupui că vor acționa corect în numele tău, dar s-ar putea să nu o facă", a punctat el. Potrivit acestuia, singura soluție este vigilența, pentru că oprirea dezvoltării inteligenței artificiale este imposibilă. "Nu o poți opri. Trebuie doar să o gestionezi cât mai riguros posibil", a reiterat acest bancher.
Avertisment: Nu divulgați parola contului către nimeni, fie om, fie agent AI
Luna trecută, un economist a descris scenariul ipotetic în care agenții AI ar efectua retrageri masive de fonduri din bănci și ar transfera banii în conturi cu randament mai ridicat.
În acest context, băncile le cer insistent utilizatorilor să nu își dezvăluie parolele către agenții AI.
"În nicio împrejurare clienții nu trebuie să își partajeze parolele cu nicio persoană sau entitate. Punct", a declarat un purtător de cuvânt al JPMorgan pentru Axios.
"Există platforme sigure de open banking care nu necesită transmiterea accesului total la contul tău. Clienții reprezintă prima linie de apărare în protejarea propriilor conturi", a adăugat el.
JPMorgan și de alte bănci au luat măsuri pentru a bloca accesul agenților, în timp ce analizează modalități sigure prin care clienții să se poată conecta la serviciile dorite.
Chiar dacă băncile și giganții AI colaborează pentru a preveni o catastrofă a agenților scăpați de sub control, nu este clar în ce măsură există o planificare la nivel federal pentru o criză ce ar putea afecta ambele sectoare, conchide Axios.