Pericolul real al inteligenței artificiale nu este un robot scăpat de sub control care preia internetul, ci oamenii care o folosesc deja pentru a ataca. Statele și grupările infracționale își perfecționează atacurile cibernetice cu ajutorul AI într-un ritm și la o scară pentru care lumea nu este pregătită, avertizează experții în securitate, iar cele mai expuse sunt spitalele, centralele și rețelele de apă, construite cu decenii înainte ca cineva să se gândească la astfel de amenințări, scrie Financial Times.
Suntem în 2027. Te trezești într-o dimineață și descoperi că nu mai poți folosi e-mailul și nu mai poți trimite mesaje. Nici contul bancar online nu mai funcționează. Pornești televizorul și vezi o lume care se prăbușește.
Sute de organizații din întreaga lume au fost atacate informatic, iar mii de angajați nu mai au acces la sistemele critice. În cele din urmă, transportul public se oprește, iar fabrici industriale explodează. Guvernele convoacă ședințe de urgență pentru a afla cine este responsabil. De data aceasta, atacatorul nu este un inamic sau o celulă teroristă, ci un lucru. Acum, la comandă sunt agenții de inteligență artificială.
Cam aceasta era viziunea despre viitor schițată în urmă cu două luni de Dario Amodei, directorul general al Anthropic, care avertiza, într-un eseu de 4.000 de cuvinte, că un roi de agenți ar putea fi capabil să preia controlul întregului internet în decurs de șase până la 12 luni.
Pentru unii, o parte din profeție pare să se adeverească deja. În ultima săptămână, sistemele IT ale unor organizații precum Microsoft, JPMorgan, Administrația Federală a Aviației din SUA și chiar Agenția Națională de Securitate a SUA au căzut, ceea ce a amplificat senzația unui haos provocat de inteligența artificială.
Între timp, divizia cibernetică a serviciilor de informații britanice s-a ocupat de securizarea a zeci de mii de frigidere și congelatoare din Marea Britanie.
Seria neobișnuită de pene și alerte vine într-un moment în care numărul atacurilor cibernetice este deja la un nivel record.
De la începutul anului, hackerii au fost acuzați de infracțiuni dintre cele mai diverse: atacurile asupra congelatoarelor din supermarketurile europene, care au determinat Marea Britanie să intervină, compromiterea sistemelor de control ale unor companii americane de apă, spargerea sistemelor FBI și furtul a 6,3 miliarde de dolari de pe platforma de criptomonede Binance, cel mai mare jaf din istorie.
Pentru experții în securitate cibernetică, însă, amenințarea pe care o reprezintă acum inteligența artificială nu ține de penele de rețea autoprovocate, de predicția lui Amodei despre un agent autonom atotputernic sau de un eveniment care ar duce la dispariția omenirii.
Îngrijorarea mai presantă este că statele și grupările infracționale folosesc deja această tehnologie pentru a-și susține și amplifica capacitățile ofensive, într-un ritm și la o scară pentru care lumea nu este pregătită.
„Nu e atât de grav pe cât le place oamenilor să-și imagineze, dar e mai grav decât își dau seama cei mai mulți”, spune Robert Lee, directorul general al companiei de securitate cibernetică Dragos și una dintre cele mai mari autorități în domeniul atacurilor cibernetice.
Lee este unul dintre numeroșii specialiști în securitate cibernetică care spun că accentul pus de liderii din domeniul AI pe scenarii teoretice catastrofale distrage atenția de la pericolul foarte real pe care îl reprezintă deja criminalitatea cibernetică și războiul cibernetic asistate de inteligența artificială.
„E posibilă apărarea? Da”, spune el. „Putem câștiga? Da. O vom face? Nu”.
Extorcare, phishing și răni autoprovocate
Frecvența atacurilor cibernetice creștea deja rapid chiar înainte de revoluția inteligenței artificiale.
Charl van der Walt, șeful global al cercetării în securitate de la Orange Cyberdefense, divizie a grupului francez de telecomunicații, spune că incidentele de extorcare cibernetică monitorizate de echipa sa, adică atacurile în care hackerii fură date pentru a le vinde sau pentru a cere răscumpărare, s-au înmulțit în ultimii șase ani, de la aproximativ 1.500 în 2020 la 7.100 în 2025. În aceeași perioadă, adaugă el, numărul grupărilor active de extorcare cibernetică a crescut de la 33 la 114.
Creșterea rapidă a fost alimentată de factori precum digitalizarea tot mai accentuată, profesionalizarea criminalității cibernetice și ascensiunea criptomonedelor, care le-au permis hackerilor să fie plătiți mai ușor.
Anul acesta, van der Walt a monitorizat deja 7.500 de astfel de atacuri în primele nouă luni, până în septembrie. Deși unele dintre aceste atacuri s-ar putea să fi folosit într-o anumită măsură instrumente AI, niciunul nu a fost un atac automatizat condus de inteligența artificială, potrivit cercetărilor Orange.
„Tehnologia AI nu este cea care generează problema de securitate. Ea scoate la iveală problemele de securitate”, spune el.
Când Anthropic a restricționat, în aprilie, accesul la modelul său de inteligență artificială Mythos, compania a explicat că tehnologia se dovedise prea pricepută la descoperirea vulnerabilităților din software și că avea nevoie de mai mult timp pentru a construi măsuri de protecție cibernetică mai solide.
Cercetarea vulnerabilităților, domeniu în care hackerii și specialiștii în securitate se întrec să găsească breșele din sistemele informatice, pentru a le repara sau pentru a le exploata, este piatra de temelie a securității cibernetice încă din anii 1970. Modelele de inteligență artificială au răsturnat această activitate, datorită capacității lor de a analiza cantități uriașe de cod la viteză mare și de a găsi erori și soluții mult mai repede decât orice om.
Tehnologia a dus deja la câteva descoperiri uimitoare. În august, cercetători americani au folosit modele OpenAI și Google pentru a identifica în PHP, limbajul de programare din spatele a 70% dintre toate site-urile web, vulnerabilități care rămăseseră nedetectate timp de peste un deceniu.
Au existat însă și consecințe neintenționate. Organizațiile descoperă acum erori de software într-un asemenea ritm încât sistemele IT nu mai pot ține pasul cu remedierile necesare.
Oficialii americani au declarat că graba de a actualiza software-ul a stat la baza recentelor pene care au blocat accesul la e-mailul Microsoft în 70 de țări, au oprit tot traficul aerian din SUA și au perturbat chiar și o rețea internă clasificată a NSA, agenția de informații care monitorizează și interceptează comunicațiile electronice.
„Fiecare zi aduce încă o dovadă că inteligența artificială avansează mai repede decât capacitatea noastră de a-i gestiona consecințele”, a spus despre recentele pene Mark Warner, vicepreședintele Comisiei speciale pentru informații a Senatului.
Președintele american Donald Trump a fost mai liniștit.
„Spuneți-le să se relaxeze, totul e în regulă”, a declarat el miercuri într-un interviu pentru Fox News, în care a încercat să-i asigure pe americani că SUA nu sunt atacate. „Instalează echipamente noi, iar când instalezi echipamente noi se mai întâmplă lucruri”.
Asemenea asigurări nu au reușit însă să stingă teoriile conspirației potrivit cărora penele ar fi fost provocate de acte coordonate de terorism cibernetic, nici îngrijorarea privind vulnerabilitatea infrastructurii vitale. Până joi, Trump îl demisese pe directorul național pentru securitate cibernetică al SUA, Sean Cairncross.
Există puține dovezi că hackerul obișnuit folosește în prezent inteligența artificială pentru a exploata pe scară largă astfel de vulnerabilități, cunoscute sub numele de zero-day.
Deocamdată, spune Marcus Hutchins, un cercetător britanic în securitate cibernetică ce cunoaște din experiență directă lumea criminalității informatice, hackerii folosesc mai ales instrumente AI precum ChatGPT pentru a concepe și derula atacuri de phishing, prin care oamenii sunt păcăliți să-și dea datele de autentificare.
Hutchins a devenit celebru în 2017, după ce a oprit WannaCry, un virus nord-coreean care se răspândea cu mare viteză. Puțin mai târziu a fost însă arestat de FBI pentru infracțiuni cibernetice comise anterior și a petrecut o scurtă perioadă în închisoare. Revista Wired l-a numit „hackerul care a salvat internetul”.
„Majoritatea atacatorilor nu primesc puncte pentru stil, așa că nu vor investi timp, efort și bani în dezvoltarea de vulnerabilități zero-day dacă pot intra gratis prin phishing”, spune el.
Excepția, recunoaște Hutchins, o reprezintă actorii statali de „top”, precum China, Rusia și SUA, despre care bănuiește că „își fac stocuri” din cele mai avansate exploit-uri zero-day, pentru a le folosi în viitor: „O mare parte din munca lor constă în construirea de capacități pentru viitor, așa că nu vedem cu adevărat ce au, ci doar ce folosesc”.
Chestiuni de viață și de moarte
Cea mai mare schimbare de până acum în echilibrul de putere dintre hackeri și cei care se apără, spun experții, privește tehnologia operațională, cunoscută sub numele de OT.
Majoritatea atacurilor vizează sistemele informatice, cu scopul de a fura bani sau date. Atacurile OT țintesc echipamente industriale, precum centralele electrice și fabricile, sau chiar congelatoarele, cu scopul de a le bloca operatorilor accesul, pentru a cere o răscumpărare sau pentru a provoca pagube.
În trecut, astfel de atacuri necesitau cunoștințe extrem de specializate și luni întregi de planificare costisitoare. Poate cel mai cunoscut atac OT din toate timpurile, atacul cu virusul Stuxnet asupra programului nuclear al Iranului, derulat de SUA și Israel în 2009, a necesitat ani de pregătire și construirea unei replici fizice a sistemelor de centrifuge iraniene, pentru ca virusul să fie testat înainte de a fi lansat.
Grupările de hackeri pot folosi acum modele lingvistice mari pentru a citi manualele echipamentelor industriale și pentru a studia accidente din trecut, spune Lee, de la Dragos. El observă că OT este adesea slab protejată tocmai pentru că atacarea ei era complicată din punct de vedere tehnic.
„Când Dario Amodei iese și spune «Hei, cred că vor muri oameni», sunt de acord cu el, dar din alte motive”, adaugă Lee. Riscul va veni din partea adversarilor umani care folosesc modele AI pentru a-și perfecționa atacurile asupra infrastructurii critice, spune el. „Intersecția asta este periculoasă”.
Lee și-a făcut un nume investigând atacurile asupra rețelei electrice a Ucrainei din 2015 și 2016, atribuite unor grupări de hackeri legate de serviciile de informații militare ale Rusiei.
Astfel de atacatori susținuți de state păstrează evidențe digitale ale operațiunilor lor ofensive, ceea ce le oferă date operaționale din peste un deceniu, pe care acum le pot analiza cu ajutorul AI pentru a învăța din ele, spune el. „Cunoștințele acestea, adunate și introduse într-un model, le vor permite să se extindă și să treacă la atacuri de mai mare amploare”.
Până acum, singurele decese atribuite oficial atacurilor cibernetice au fost cauzate de atacuri asupra sistemelor informatice ale spitalelor, care au perturbat îngrijirea pacienților.
Totuși, în 2017, hackeri legați de Rusia au lansat un virus împotriva sistemelor de siguranță ale unei uzine petrochimice din Arabia Saudită, care ar fi putut provoca un accident catastrofal dacă, în mod neintenționat, codul nu ar fi declanșat oprirea instalației.
Lee observă că, în anii 2010, capacitățile cibernetice ofensive sofisticate se aflau în mâinile serviciilor de informații, în anii 2020 au trecut la armată, iar astăzi au ajuns la un amestec pestriț de intermediari, contractori guvernamentali și grupări infracționale.
Dacă serviciile de informații tind să folosească aceste instrumente cu măsură, preferând operațiuni secrete, pe care le pot nega, noii actori nu au aceeași reținere.
„Cred că e o evaluare cât se poate de sigură să spunem că vom vedea pierderi de vieți omenești ca urmare a atacurilor cibernetice asupra OT”, spune el.
Când linia frontului este un congelator
Pentru a înțelege cum ar putea inteligența artificială să intensifice atacurile cibernetice, spun experții, merită să ne uităm la ceea ce este probabil cel mai prost an din istoria securității cibernetice: 2017.
În mai, în acel an, virusul WannaCry a fost lansat de Coreea de Nord și s-a răspândit fără discriminare, atacând totul, de la spitale și bănci până la fabrici de mașini, în peste 150 de țări, până când Hutchins a găsit un mecanism care l-a oprit.
Luna următoare, un virus rusesc numit NotPetya a vizat sectoarele financiar și energetic ale Ucrainei, dar s-a răspândit apoi și la nivel internațional, provocând pagube estimate la 10 miliarde de dolari și ajungând până la o fabrică de ciocolată Cadbury din Tasmania. Ambele au folosit un instrument de atac dezvoltat inițial de NSA, care ajunsese pe internet în urma unei scurgeri.
Ciaran Martin, care conducea la acea vreme Centrul Național de Securitate Cibernetică al Marii Britanii, susține că cele două evenimente, în care o capacitate dezvoltată de un stat a provocat pagube uriașe și neintenționate, oferă un punct de referință util pentru ceea ce s-ar putea întâmpla în era inteligenței artificiale.
„Cel mai rău scenariu rezonabil, în opinia mea, este un atac accidental, scăpat de sub control, cu o componentă AI, care să fie o versiune turbo a WannaCry sau NotPetya”, spune el. „Probabil nu complet automatizat, dar care pur și simplu începe să străpungă infrastructuri vulnerabile din întreaga lume... Ambulanțele sunt întoarse din drum, școlile nu își pot plăti facturile, magazinele nu pot primi plăți”.
Un oficial al serviciilor de informații occidentale, care a cerut să nu fie identificat, este de acord.
„Nu cred că vom vedea un stat folosind în mod conștient atacuri AI la scară largă în afara unui conflict, pentru că regulile de angajare încă se aplică”, spune oficialul. „Riscul mai mare vine din faptul că toată înțelegerea noastră asupra acestei capacități este încă la început. Toată lumea încă învață, așa că există o probabilitate mai mare de consecințe neintenționate”.
Multe țări occidentale se află deja în conflict, oficial sau neoficial, cu mari puteri cibernetice. De când SUA și Israelul au început, în februarie, atacurile aeriene asupra Iranului, hackerii iranieni au derulat operațiuni cibernetice ofensive asupra unor ținte de pe teritoriul american, inclusiv atacuri asupra a zeci de companii de apă.
Săptămâna trecută, o unitate cibernetică a Corpului Gardienilor Revoluției Islamice din Iran a fost acuzată de atacurile cibernetice fără precedent din octombrie din Franța, care au ridicat temperatura în sute de congelatoare din supermarketuri până la 50 de grade Celsius, distrugând alimente în valoare de milioane de euro.
Atacuri similare au avut loc luna aceasta asupra supermarketurilor din alte zece țări europene, ceea ce a determinat NCSC să desfășoare, în ultimele săptămâni, o acțiune discretă la nivel național pentru protejarea sistemelor de refrigerare din Marea Britanie.
Oficialii europeni vorbesc tot mai deschis despre faptul că Rusia folosește așa-numitul război hibrid, inclusiv atacuri cibernetice, împotriva statelor membre ale UE, pentru a face presiuni legate de războiul său împotriva Ucrainei. Strategia Iranului și a Rusiei este de a „submina încrederea și coeziunea societății cu care ești în conflict”, spune van der Walt, de la Orange.
China are o abordare diferită. Oficialii occidentali spun că Beijingul este mai interesat de capacități care permit spionajul sau care servesc drept factor de descurajare împotriva atacurilor străine asupra propriei populații și infrastructuri.
Într-o amplă campanie cibernetică dată în vileag în 2023, autoritățile americane au găsit viruși chinezești plantați în sistemele de energie, apă, conducte și transport ale SUA, aparent ca pregătire pentru a perturba, la nevoie, economia americană și operațiunile militare.
Anul următor, agențiile americane au făcut o recunoaștere și mai șocantă. Hackeri chinezi obținuseră și păstraseră timp de mai mulți ani accesul la rețelele de telecomunicații din SUA, ceea ce le-a oferit serviciilor de informații chineze acces potențial la convorbirile telefonice necriptate ale aproape oricui din America.
Pentru Anne Neuberger, fost adjunct al consilierului pentru securitate națională al SUA, care a condus cândva operațiuni de informații pentru NSA, controlul Chinei asupra internetului și economiei sale îi oferă un avantaj natural în războiul cibernetic.
„Tensiunea dintre capacitățile unei țări autoritare de a monitoriza și de a se apăra și (capacitatea) unei democrații (de a face asta) devine și mai acută în era inteligenței artificiale”, spune ea, subliniind că guvernul chinez are un rol direct în protejarea infrastructurii critice.
Ea este mai puțin îngrijorată de vulnerabilitatea marilor bănci occidentale, care au bugete mari pentru securitate cibernetică, și mai preocupată de infrastructuri precum spitalele, conductele și sistemele energetice, a căror securizare a fost istoric costisitoare și care nu au fost niciodată protejate cum trebuie.
Acestea sunt, adaugă ea, „sisteme construite în ultimii 50 de ani, cu mult înainte de apariția capacităților cibernetice ofensive sofisticate”.
Companiile de securitate cibernetică lansează deja, toate, tehnologii de apărare bazate pe inteligență artificială. Unele ajută echipele de securitate să identifice și să analizeze amenințările. Altele folosesc sisteme de AI agentic pentru a răspunde atacurilor și a le neutraliza. O altă posibilitate, spune Neuberger, este construirea unor gemeni digitali ai infrastructurii critice reale, pe care să fie testate cele mai noi modele de vârf.
Pe măsură ce războaiele cibernetice escaladează, ea susține că nu este timp de pierdut în folosirea noii tehnologii pentru a proteja, nu doar pentru a ataca, infrastructura care a devenit noul câmp de luptă: „AI îi ajută categoric pe atacatori... dar în apărare schimbă complet regulile jocului”.