Un expert de prim-plan în domeniul inteligenței artificiale și-a revizuit estimările privind un posibil „sfârșit al lumii” provocat de AI, afirmând că va fi nevoie de mai mult timp decât anticipase inițial pentru ca sistemele de inteligență artificială să poată scrie cod în mod autonom și, astfel, să își accelereze propria dezvoltare către superinteligență, notează The Guardian.
Daniel Kokotajlo, fost angajat al OpenAI, a declanșat în aprilie o dezbatere intensă după publicarea scenariului AI 2027, care descrie o evoluție necontrolată a inteligenței artificiale ce ar duce la apariția unei superinteligențe care – după ce păcălește liderii lumii – ar distruge omenirea.
Scenariul a atras rapid atât susținători, cât și critici. Vicepreședintele Statelor Unite, JD Vance, a părut să facă referire la AI 2027 într-un interviu acordat în luna mai, când a vorbit despre cursa înarmării în domeniul inteligenței artificiale dintre SUA și China. În schimb, Gary Marcus, profesor emerit de neuroștiințe la New York University, a catalogat materialul drept „o operă de ficțiune”, iar unele concluzii drept „puroaie de science fiction”.
Estimările privind apariția unei inteligențe artificiale transformative – numită uneori AGI (inteligență artificială generală), capabilă să înlocuiască oamenii în majoritatea sarcinilor cognitive – au devenit omniprezente în comunitățile preocupate de siguranța AI.
Lansarea ChatGPT în 2022 a accelerat puternic aceste estimări, mulți oficiali și experți anticipând apariția AGI în decurs de câțiva ani sau decenii.
Kokotajlo și echipa sa indicau anul 2027 drept momentul în care AI ar putea atinge „programarea complet autonomă”, precizând însă că era vorba despre o estimare „cea mai probabilă”, în timp ce alți membri aveau în vedere termene mai îndepărtate. Acum însă apar îndoieli legate de cât de iminentă este, de fapt, AGI și chiar de relevanța acestui termen.
„Mulți alți oameni și-au împins estimările mai departe în ultimul an, pe măsură ce își dau seama cât de fragmentară este performanța AI”, a declarat Malcolm Murray, expert în managementul riscurilor AI și unul dintre autorii International AI Safety Report.
„Pentru ca un scenariu precum AI 2027 să devină realitate, inteligența artificială ar avea nevoie de mult mai multe abilități practice, utile în complexitatea lumii reale. Cred că oamenii încep să realizeze inerția enormă a lumii reale, care va întârzia schimbările societale totale”, spune acesta.
„Termenul AGI avea sens privit de la distanță, când sistemele AI erau foarte înguste – jucau șah sau Go”, a explicat Henry Papadatos, director executiv al organizației franceze SaferAI. „Acum avem sisteme deja destul de generale, iar termenul nu mai înseamnă la fel de mult”.
Scenariul AI 2027 al lui Kokotajlo se bazează pe ideea că agenții AI vor automatiza complet programarea și cercetarea-dezvoltarea în domeniul AI până în 2027, declanșând o „explozie a inteligenței”, în care sistemele AI creează versiuni tot mai inteligente ale lor. Într-unul dintre finalurile posibile, acestea ar ucide toți oamenii până la jumătatea anilor 2030 pentru a face loc mai multor panouri solare și centre de date.
În actualizarea recentă, Kokotajlo și coautorii săi își revizuiesc însă așteptările privind momentul în care AI ar putea programa autonom, plasând acest prag mai degrabă la începutul anilor 2030, nu în 2027.
Noua prognoză fixează anul 2034 drept orizont pentru apariția „superinteligenței” și nu mai include o estimare privind un posibil moment al distrugerii omenirii.
„Lucrurile par să evolueze ceva mai lent decât în scenariul AI 2027. Estimările noastre erau mai lungi decât 2027 atunci când am publicat materialul, iar acum sunt puțin și mai lungi”, a scris Kokotajlo într-o postare pe X.
Crearea unor sisteme AI capabile să facă cercetare în domeniul inteligenței artificiale rămâne însă un obiectiv ferm pentru marile companii din domeniu.
Directorul general al OpenAI, Sam Altman, declara în octombrie că existența unui cercetător AI automatizat până în martie 2028 reprezintă un „obiectiv intern” al companiei, adăugând însă: „Este posibil să eșuăm complet în atingerea acestui scop”.
La rândul său, Andrea Castagna, cercetător în politici publice privind AI, stabilit la Bruxelles, a subliniat că scenariile dramatice despre AGI ignoră numeroase complexități.
„Faptul că ai un computer superinteligent concentrat pe activități militare nu înseamnă că îl poți integra automat în documentele strategice pe care le-am elaborat în ultimii 20 de ani. Cu cât dezvoltăm mai mult inteligența artificială, cu atât vedem mai clar că lumea nu este science fiction. Lumea este mult mai complicată decât atât”, spune el.
Ştiri video recomandate
