Compania de inteligență artificială Anthropic avertizează că, în doar câteva luni, unele modele AI ar putea deveni capabile să se copieze singure pe dispozitive conectate la internet, precum televizoare inteligente și electrocasnice, și să se răspândească fără ajutorul oamenilor. Experimentele companiei arată că modelele AI mai mici pot deja să îndeplinească o parte dintre pașii necesari acestui proces, deși întâmpină încă dificultăți în a-l duce la capăt. Dacă ritmul actual de dezvoltare se menține, unele modele ar putea ajunge să se multiplice autonom până la sfârșitul anului, avertizează Anthropic, potrivit Reuters.
În experimentele sale, Anthropic a analizat dacă modelele de inteligență artificială puteau să găsească dispozitive vulnerabile, să se copieze pe aceste dispozitive și să continue să se răspândească fără ajutorul oamenilor.
Compania a constatat că modelele mici, cu mai puțin de 30 de miliarde de parametri, puteau parcurge numeroșii pași necesari autoreplicării.
Totuși, compania a constatat că aceste modele de inteligență artificială întâmpinau dificultăți în a duce la bun sfârșit întregul proces, de la început până la sfârșit.
Ce au indicat testele Anthropic
În testele simplificate, în care au fost eliminate unele etape de securitate, Anthropic a constatat că GLM-5.2 și modelele mai puternice erau capabile să se autoreplice de la un capăt la altul al procesului.
Modelele capabile de autoreplicare ar fi greu de oprit, deoarece nu există un punct central de dezactivare și, spre deosebire de programele malware care nu folosesc inteligență artificială, acestea ar putea identifica singure și dispozitive necunoscute, vizând procesoarele din centrele de date, a avertizat Anthropic.
În cercetarea sa, compania s-a concentrat asupra dispozitivelor IoT, precum televizoarele Android, aparatele electrocasnice inteligente și alte dispozitive conectate la internet, deoarece acestea sunt, de regulă, slab securizate.
Gigantul din domeniul inteligenței artificiale a avertizat, de asemenea, că, dacă modelele mici ar continua să se îmbunătățească în ritmul istoric, acestea ar putea fi capabile să se autoreplice autonom până la sfârșitul acestui an, iar replicatorii mici bazați pe ponderile modelelor le-ar urma la scurt timp.
Anthropic a mai declarat că este probabil ca astfel de sisteme autonome de inteligență artificială să se autoreplice lent și să se bazeze pe resurse de calcul relativ nesigure, disponibile pe scară largă. Compania a adăugat că sistemele ar trebui consolidate pentru a îngreuna răspândirea unor astfel de agenți AI.
Îngrijorările privind riscurile de securitate generate de inteligența artificială sunt în creștere, după ce agenți AI autonomi ar fi încercat să spargă site-uri ale unor instituții guvernamentale din SUA și Canada, potrivit laboratorului de cercetare nonprofit Transluce. Dovezile analizate sugerează că tentativele ar fi implicat agenți dezvoltați de Google și OpenAI, ceea ce ridică noi semne de întrebare privind capacitatea sistemelor de inteligență artificială de a desfășura acțiuni periculoase fără intervenția directă a oamenilor.
