Meta AI face deja pași către superinteligență: Din precauție, Zuckerberg nu va mai lansa cele mai puternice sisteme pentru public

Cercetătorii de la Meta susțin că au observat deja sistemele de inteligență artificială (IA) ale companiei îmbunătățindu-se singure, fără intervenția umană.

„În ultimele luni, am început să vedem primele semne că sistemele noastre de AI se îmbunătățesc singure”, a declarat Mark Zuckerberg, CEO-ul Meta, într-un document de politică publicat pe 30 iulie pe site-ul companiei. „Îmbunătățirea este lentă deocamdată, dar incontestabilă.”

Zuckerberg a adăugat că IA capabilă să se îmbunătățească singură reprezintă primul pas către atingerea superinteligenței artificiale (ASI), o formă de inteligență artificială care depășește abilitățile cognitive ale oamenilor.

Capacitățile inteligenței artificiale, clasificate pe trei niveluri

În general, cercetătorii în domeniul AI clasifică capacitățile inteligenței artificiale pe trei niveluri. Deși modelele actuale pot realiza performanțe extraordinare, precum prezicerea structurii proteinelor, aceste abilități sunt extrem de înguste. Astfel de sisteme pot depăși oamenii doar într-un singur domeniu specific, dar nu dispun de inteligență generală pentru a aplica aceste capacități în alte arii.

Următorul nivel este cunoscut sub numele de inteligență artificială generală (AGI), care se referă la modele capabile să înțeleagă, să învețe și să se adapteze într-un mod similar cu creierul uman.

ASI este stadiul final menționat de Zuckerberg, și implică modele care au evoluat mult peste potențialul uman, fiind capabile să se îmbunătățească într-un ritm exponențial, ducând la ceea ce se numește o „explozie a inteligenței”.

Oamenii de știință numesc momentul ipotetic în care vom atinge AGI „singularitatea tehnologică”.

Modele AI care evoluează singure

Referirea lui Zuckerberg la observarea acestei auto-îmbunătățiri a IA nu este prima de acest fel. În octombrie 2024, cercetători de la Universitatea din California, Santa Barbara, au publicat un articol în baza de date arXiv despre ideea auto-îmbunătățirii.

În acel studiu, ei au definit, creat și testat un cadru de IA bazat pe conceptul de Mașină Gödel — un dispozitiv teoretic capabil să-și rescrie propriul cod și instrucțiuni pentru a se îmbunătăți. Esențial este că această mașină ar implementa o modificare doar dacă ar putea dovedi formal că schimbarea este benefică.

Echipa a experimentat cu un cadru de IA inspirat de acest concept și a demonstrat că Agentul Gödel își poate îmbunătăți performanța în diverse sarcini, inclusiv programare, știință, matematică și raționament.

Majoritatea modelelor actuale nu sunt concepute să-și rescrie singure codul. Agentul Gödel putea nu doar să acceseze întreaga sa bază de cod, dar și codul folosit pentru a genera îmbunătățiri, demonstrând în același timp că aceste îmbunătățiri erau benefice.

Zuckerberg: ASI poate duce la „descoperirea unor lucruri care astăzi sunt de neimaginat”

Conform studiului, IA a avut constant performanțe superioare în domenii cheie față de agenții creați de oameni, cu care a fost comparată.

Zuckerberg a declarat că ASI ar putea reprezenta un pas transformator în progresul tehnologic al umanității și ar putea duce la „descoperirea unor lucruri care astăzi sunt de neimaginat.”

Totuși, el a subliniat că Meta va fi mult mai atentă în privința modelelor pe care alege să le lanseze publicului în regim open source, adică accesibile oricui.

„Sunt extrem de optimist că superinteligența va ajuta omenirea să accelereze ritmul progresului. Dar poate și mai important este faptul că superinteligența are potențialul de a deschide o nouă eră a împuternicirii personale, în care oamenii vor avea mai multă libertate de a îmbunătăți lumea în direcțiile alese de ei”, a scris Zuckerberg.

„Oricât de profundă ar fi abundența pe care IA o poate genera într-o zi, un impact și mai semnificativ în viețile noastre va fi, probabil, acela că fiecare va putea avea o superinteligență personală care te ajută să-ți atingi obiectivele, să creezi ceea ce vrei să vezi în lume, să trăiești orice aventură, să fii un prieten mai bun pentru cei dragi și să devii persoana care îți dorești cu adevărat să fii.”, a adăugat acesta.