Reuniune de criză la FMI din cauza modelului AI Mythos. „Este suficient de grav încât oamenii trebuie să fie îngrijorați”

Miniștri de finanțe, guvernatori de bănci centrale și reprezentanți ai sectorului financiar și-au exprimat îngrijorarea serioasă față de un nou model de inteligență artificială (AI), extrem de puternic, care ar putea pune în pericol securitatea sistemelor financiare, scrie BBC.

Dezvoltarea modelului Claude Mythos de către Anthropic a declanșat reuniuni de criză, după ce acesta a identificat vulnerabilități în toate sistemele de operare și browserele importante.

Experții au avertizat că modelul ar avea o capacitate fără precedent de a detecta și exploata puncte slabe în materie de securitate cibernetică.

Ministrul canadian de finanțe, François-Philippe Champagne, a declarat pentru BBC că Mythos a fost discutat pe larg de omologii săi la reuniunea-cheie a Fondului Monetar Internațional (FMI) de la Washington, din această săptămână.

„Cu siguranță este suficient de serios pentru a justifica atenția tuturor miniștrilor de finanțe...

Diferența față de Strâmtoarea Hormuz este că știm unde se află și cât de mare este. Problema pe care o avem cu Anthropic e că este o necunoscută totală.

Este nevoie de multă atenție pentru a ne asigura că avem mecanisme de protecție și proceduri care să garanteze reziliența sistemului nostru financiar”, a declarat acesta.

Directorii marilor bănci vor primi acces anticipat la model pentru a-și testa sistemele.

„Este suficient de grav încât oamenii trebuie să fie îngrijorați. Trebuie să înțelegem mai bine situația, trebuie să înțelegem vulnerabilitățile care sunt expuse și să le remediem rapid”, a declarat Directorul general al Barclays, CS Venkatakrishnan.

Acesta a adăugat că „asta e lumea nouă în care vom trăi” – referindu-se la un sistem financiar mult mai interconectat, cu oportunități, dar și cu vulnerabilități.

Deși Anthropic, compania care a dezvoltat modelul, a anunțat că acesta a identificat deja multiple vulnerabilități de securitate în sisteme de operare critice, sisteme financiare și browsere, guvernele și băncile primesc acces înainte de lansarea publică, pentru a-și putea proteja propriile sisteme.

„Trebuie să analizăm foarte atent acum ce ar putea însemna această ultimă dezvoltare AI pentru riscul de criminalitate cibernetică. Există o evoluție a inteligenței artificiale, a modelării, care facilitează detectarea vulnerabilităților existente în sistemele IT de bază, iar evident infractorii cibernetici, actorii rău-intenționați, ar putea încerca să le exploateze”, a declarat guvernatorul Băncii Angliei, Andrew Bailey.

Trezoreria SUA a confirmat că a ridicat problema în discuțiile cu băncile majore, încurajându-le să își testeze sistemele înainte de orice lansare publică a modelului Mythos de către Anthropic.

Surse din industria financiară au indicat că o altă companie americană de AI de prim rang ar putea lansa în curând un model la fel de puternic, dar fără aceleași măsuri de protecție.