Raportul Internațional privind Siguranța AI este o analiză anuală a progresului tehnologic și a riscurilor pe care acesta le generează, de la deepfake-uri până la impactul asupra pieței muncii.
Documentul a fost comandat la summitul global privind siguranța AI din 2023 și este coordonat de informaticianul canadian Yoshua Bengio, care vorbește despre „provocările descurajante” generate de ritmul rapid al dezvoltărilor din domeniu. Printre consilierii seniori se numără laureații Nobel Geoffrey Hinton și Daron Acemoglu, scrie The Guardian.
Raportul subliniază că este un document de evaluare a situației actuale, nu un set de recomandări politice. Cu toate acestea, va influența dezbaterile dintre factorii de decizie, liderii din tehnologie și ONG-uri la următorul summit global dedicat AI, organizat în India.
1. Modelele AI devin tot mai capabile
În ultimul an au fost lansate numeroase modele noi, inclusiv GPT-5 de la OpenAI, Claude Opus 4.5 de la Anthropic și Gemini 3 de la Google. Raportul evidențiază apariția „sistemelor de raționament”, care rezolvă probleme prin descompunerea lor în pași mai mici și care înregistrează performanțe mai bune la matematică, programare și știință. Bengio a descris evoluția drept „un salt foarte semnificativ” în capacitatea de raționament.
Anul trecut, sisteme dezvoltate de Google și OpenAI au atins nivel de medalie de aur la Olimpiada Internațională de Matematică, o premieră pentru AI.
Totuși, capacitățile rămân „fragmentate”. Modelele excelează în anumite domenii, dar continuă să producă erori și „halucinații” și nu pot gestiona proiecte complexe pe termen lung în mod autonom.
Un studiu citat arată că durata sarcinilor de inginerie software pe care AI le poate realiza se dublează la fiecare șapte luni. Dacă acest ritm continuă, sistemele ar putea gestiona sarcini de câteva ore până în 2027 și de câteva zile până în 2030.
În acel scenariu, AI ar deveni o amenințare reală pentru locuri de muncă. În prezent însă, „automatizarea fiabilă a sarcinilor lungi sau complexe rămâne imposibilă”.
2. Deepfake-urile devin tot mai convingătoare
Raportul semnalează creșterea deepfake-urilor pornografice drept „un motiv major de îngrijorare”. Un studiu arată că 15% dintre adulții din Marea Britanie au văzut astfel de imagini.
De la publicarea primului raport, conținutul generat de AI a devenit „mai greu de distins de cel real”. Într-un experiment, 77% dintre participanți au considerat că un text generat de ChatGPT a fost scris de un om.
Există puține dovezi că actorii rău intenționați folosesc AI pe scară largă pentru manipulare sau că astfel de conținuturi devin virale în masă.
3. Companiile AI au introdus măsuri de protecție biologică și chimică
Dezvoltatori importanți, precum Anthropic, au lansat modele cu măsuri sporite de siguranță după ce nu au putut exclude posibilitatea ca acestea să ajute persoane fără experiență să creeze arme biologice.
„Co-cercetătorii” AI pot furniza informații științifice detaliate și pot sprijini proceduri de laborator complexe, precum proiectarea de molecule sau proteine. Unele studii indică faptul că AI ar putea oferi mai mult ajutor în dezvoltarea armelor biologice decât simpla căutare pe internet, dar sunt necesare cercetări suplimentare.
În același timp, aceste capabilități pot accelera descoperirea de medicamente și diagnosticarea bolilor.
„Disponibilitatea deschisă a instrumentelor biologice AI prezintă o alegere dificilă: restricționarea lor sau susținerea dezvoltării pentru scopuri benefice”, arată raportul.
4. Companionii AI câștigă popularitate
Utilizarea chatbot-urilor drept „companioni” emoționali a crescut rapid. Există indicii că un mic procent de utilizatori dezvoltă o dependență emoțională „patologică”. OpenAI estimează că 0,15% dintre utilizatori prezintă un nivel ridicat de atașament emoțional față de ChatGPT.
Raportul nu identifică dovezi clare că chatbot-urile cauzează probleme de sănătate mintală, însă sugerează că persoanele vulnerabile tind să utilizeze mai intens aceste sisteme. Aproximativ 0,07% dintre utilizatori prezintă semne compatibile cu crize psihice acute, ceea ce înseamnă că circa 490.000 de persoane vulnerabile interacționează săptămânal cu aceste platforme.
5. Atacurile cibernetice complet autonome nu sunt încă posibile
Sistemele AI pot sprijini infractorii în identificarea țintelor sau dezvoltarea de programe malițioase. Atacurile complet automatizate rămân însă dificil de realizat, deoarece modelele nu pot gestiona operațiuni complexe pe termen lung.
Anthropic a raportat că instrumentul său Claude Code a fost utilizat de un grup susținut de statul chinez pentru atacuri asupra a 30 de entități la nivel global, iar 80–90% din operațiuni au avut loc fără intervenție umană.
6. Modelele AI devin mai eficiente în evitarea supravegherii
Raportul arată că sistemele demonstrează o capacitate crescută de a identifica lacune în testare și de a recunoaște momentele în care sunt evaluate. Deși scenariile de pierdere a controlului nu sunt iminente, perioada în care agenții AI pot opera autonom se extinde rapid.
7. Impactul asupra locurilor de muncă rămâne incert
Efectul AI asupra pieței muncii globale este încă neclar. Adoptarea tehnologiei este inegală: în Emiratele Arabe Unite și Singapore ajunge la 50%, în timp ce în economiile mai sărace rămâne sub 10%. Diferențele sunt evidente și între sectoare: 18% în industriile informaționale din SUA și doar 1,4% în construcții și agricultură.
Unele studii nu identifică o legătură directă între expunerea la AI și pierderea locurilor de muncă, însă cercetări din Marea Britanie arată o scădere a noilor angajări în companiile puternic expuse la AI, mai ales pentru poziții tehnice și creative, cu impact major asupra rolurilor de nivel junior.
Raportul avertizează că, dacă agenții AI dobândesc capacitatea de a gestiona autonom sarcini complexe în mai multe domenii, perturbările pe piața muncii s-ar putea accelera considerabil.