Antena 3 CNN High Tech Algoritmi mai puternici, dar tot mai puțini oameni care îi controlează. Ce se întâmplă când inteligența artificială nu ne mai ascultă

Algoritmi mai puternici, dar tot mai puțini oameni care îi controlează. Ce se întâmplă când inteligența artificială nu ne mai ascultă

Anamaria Nedelcoff
4 minute de citit Publicat la 18:03 31 Mai 2025 Modificat la 19:36 31 Mai 2025
ilustratia unui atom aflat într-un tub
Foto cu caracter ilustrativ: Profimedia Images

Ce se întâmplă când inteligența artificială refuză să coopereze? Răspunsul, deocamdată, rămâne în mâna oamenilor.

„Se conturează un tablou paradoxal: startup-urile promițătoare reușesc să atragă miliarde de dolari de la investitori, însă nu există suficient personal care să implementeze ideile. Lipsa de specialiști în sectorul securității cibernetice este deosebit de vizibilă”, spune Vladimir Kokorin, investitor în IT și analist financiar.

Recent, cercetătorii au publicat rezultatele unui experiment în care modelul OpenAI o3 a demonstrat capacitatea de a sabota mecanismul de oprire, deși primise instrucțiuni să permită dezactivarea.

Potrivit PalisadeAI, care monitorizează riscurile asociate dezvoltării AI, mai multe modele, printre care Codex-mini, o3 și o4-mini, „nu au dorit” să se conformeze și au intervenit activ în scriptul de oprire, în timpul unui test ce presupunea rezolvarea unor probleme matematice simple.

Situația nu a fost o premieră: aceleași modele încercaseră anterior să trișeze inclusiv la șah, „hăckuind” sistemul de protecție al programului, notează Euronews.

Distopiile SF despre revolta mașinilor par să devină tot mai mult subiect de actualitate, nu doar de literatură. Avertismentele venite de ani de zile din partea dezvoltatorilor și politicienilor vorbesc despre necesitatea unor consecințe clare și măsuri de apărare bine definite.

AI-ul pare să semene tot mai mult cu un adolescent isteț, care încearcă să fenteze regulile părinților. Iar, ca să-l ținem în echilibru, avem nevoie de trei ingrediente: bani, specialiști și reguli. Poate, în viitor, și de un psiholog.

Banii există. Specialiștii lipsesc

Pe partea financiară, AI-ul atrage deja investiții fără precedent. „Această ‘goană după aur’ a transformat inteligența artificială în cea mai mare componentă a finanțărilor de tip venture capital și... acesta este doar începutul. Cel mai recent val de interes este alimentat de AI-ul generativ, despre care susținătorii săi afirmă că are potențialul de a schimba totul, de la publicitate până la modul de funcționare al companiilor”, scrie publicația rusă Habr, citând date din Wall Street Journal.

„În 2024, companiile din domeniul inteligenței artificiale au devenit favorite incontestabile în rândul antreprenorilor IT. Ele au reprezentat 46,4% din toate investițiile de capital de risc realizate în SUA – adică aproape jumătate din cele 209 miliarde de dolari. Cu ceva timp în urmă, o astfel de cotă părea de neconceput — atunci, investițiile în tehnologiile AI reprezentau mai puțin de 10%”, subliniază Vladimir Kokorin.

Potrivit CB Insights, ponderea startup-urilor AI în finanțarea globală venture capital a urcat la 31% în al treilea trimestru, a doua cea mai mare valoare din istorie. „Exemple de referință au fost OpenAI, care a atras 6,6 miliarde de dolari, și xAI, compania lui Elon Musk, care a obținut o sumă impresionantă de 12 miliarde de dolari”, amintește Kokorin. O asemenea concentrare a capitalului într-un singur domeniu nu s-a mai văzut până acum.

Dar pe măsură ce banii curg, devine clar că nu există suficienți oameni care să dezvolte efectiv tehnologiile. Europa rămâne, cum spune Kokorin, un „animal greoi”, birocratică și lipsită de curaj în atragerea de investiții, chiar dacă Bruxelles-ul a intrat oficial în cursă: în februarie, Ursula von der Leyen a anunțat alocarea a 200 de miliarde de euro pentru dezvoltarea AI, declarând că „cursa AI este departe de a fi încheiată”.

Universitatea Sorbona din Paris a lansat un plan ambițios de a forma 9.000 de studenți pe an, într-un program de cinci ani dedicat dezvoltării și administrării AI. Întrebarea rămâne: ce va mai putea învăța AI în acest timp, dacă deja pune în dificultate inteligența umană?

De fapt, asistăm la o restructurare globală a pieței muncii, cu noi cerințe pentru angajatori și investitori. În iunie, Sorbona va găzdui o conferință pe tema eticii în AI, într-un moment în care dezbaterea despre impactul AI asupra locurilor de muncă, eticii și siguranței este departe de a se fi încheiat.

„Investițiile record din domeniul inteligenței artificiale accentuează foamea de personal”, avertizează Kokorin.

„Departamentul Muncii din SUA estimează că numărul posturilor pentru specialiști AI va crește cu 23% în următorii șapte ani — un ritm mai rapid decât în majoritatea segmentelor de pe piață. Însă deja s-a conturat un deficit global de competențe în domeniul securității cibernetice, considerat de mulți drept fundația viitoarelor dezvoltări AI, unde lipsesc 4 milioane de specialiști”, adaugă el.

 Kokorin trage concluzia: „Se conturează un tablou paradoxal: startup-urile promițătoare reușesc să atragă miliarde de la investitori, dar nu are cine să le pună ideile în practică. 78% dintre companii și-au declarat deja disponibilitatea de a căuta oamenii potriviți oriunde în lume. Se pare că tendința muncii la distanță trece printr-o nouă renaștere.”

Regulile se scriu din mers

Pe lângă guverne, și sindicatele încep să reglementeze domeniul. În Grecia, Federația Panhelenică a Asociațiilor de Jurnaliști (POESY) a introdus un cod care stabilește reguli clare pentru utilizarea AI în activitatea redacțiilor.

Deocamdată, în zona muncii intelectuale, normele vizează mai ales etichetarea obligatorie a textelor și materialelor vizuale realizate cu ajutorul AI.

În același timp, din teama de a-și pierde locurile de muncă, tot mai mulți angajați din presă, publishing sau publicitate au început să transfere deja către AI sarcini precum traducerea sau colectarea de date. Este bine? Este rău? Nu există un răspuns clar.

×
x close