Omenirea se află într-o cursă contracronometru cu inteligența artificială și „s-ar putea să nu mai aibă timp” să se pregătească pentru riscurile de siguranță generate de sistemele AI de ultimă generație, a avertizat David Dalrymple, expert în siguranța inteligenței artificiale, pentru The Guardian. Mai mult, acesta susține că în cinci ani, majoritatea sarcinilor cu valoare economică vor fi realizate de AI la o calitate mai înaltă și la un cost mai mic decât oamenii.
David Dalrymple, director de program și expert în siguranța inteligenței artificiale la agenția Aria, a declarat pentru The Guardian că oamenii ar trebui să fie îngrijorați de capacitățile tot mai mari ale acestei tehnologii
„Cred că ar trebui să fim preocupați de sisteme care pot îndeplini toate funcțiile pe care le îndeplinesc oamenii pentru a realiza lucruri în lume, dar mai bine. Vom fi depășiți în toate domeniile în care trebuie să fim dominanți pentru a menține controlul asupra civilizației, societății și planetei noastre”, a spus el.
Avertisment sumbru
Dalrymple a afirmat că există o diferență de înțelegere între sectorul public și companiile de AI în ceea ce privește puterea viitoarelor descoperiri tehnologice.
„Aș avertiza că lucrurile evoluează extrem de rapid și s-ar putea să nu avem timp să fim cu un pas înainte din perspectiva siguranței. Și nu este science-fiction să estimăm că, în decurs de cinci ani, majoritatea sarcinilor cu valoare economică vor fi realizate de mașini la un nivel de calitate mai ridicat și la un cost mai mic decât de oameni”, a spus el.
Dalrymple a declarat că guvernele nu ar trebui să presupună că sistemele avansate sunt fiabile. Aria este finanțată din fonduri publice, dar este independentă de guvern și coordonează finanțarea cercetării. Dalrymple dezvoltă sisteme menite să protejeze utilizarea AI în infrastructuri critice, precum rețelele energetice.
„Nu putem presupune că aceste sisteme sunt fiabile. Știința necesară pentru a garanta acest lucru este puțin probabil să apară la timp, având în vedere presiunea economică. Așadar, următorul lucru cel mai bun pe care îl putem face, și pe care s-ar putea să îl putem face la timp, este să controlăm și să atenuăm efectele negative”, a explicat el.
Descriind consecințele faptului că progresul tehnologic depășește măsurile de siguranță drept o „destabilizare a securității și economiei”, Dalrymple a afirmat că este nevoie de mai multă muncă tehnică pentru a înțelege și controla comportamentele sistemelor AI avansate.
„Progresul poate fi privit ca destabilizator și totuși ar putea fi benefic, lucru pe care mulți oameni de la frontiera tehnologică îl speră. Eu lucrez pentru a face ca lucrurile să evolueze mai bine, dar riscurile sunt foarte mari, iar civilizația umană, în ansamblu, înaintează aproape în somn către această tranziție”, a adăugat el.
AI se îmbunătățește „rapid”
În această lună, Institutul pentru Securitatea AI (AISI) al guvernului britanic a declarat că abilitățile modelelor AI avansate „se îmbunătățesc rapid” în toate domeniile, iar performanța în unele domenii se dublează la fiecare opt luni.
Potrivit institutului, modelele de top pot îndeplini în prezent sarcini de nivel de ucenic în proporție de 50% din cazuri, față de aproximativ 10% anul trecut. De asemenea, AISI a constatat că cele mai avansate sisteme pot finaliza autonom sarcini care i-ar lua unui expert uman peste o oră.
Institutul a testat, de asemenea, modele avansate pentru auto-replicare, o preocupare majoră de siguranță deoarece implică răspândirea copiilor unui sistem pe alte dispozitive, făcându-l mai greu de controlat. Testele au arătat că două modele de ultimă generație au atins rate de succes de peste 60%.
Cu toate acestea, AISI a subliniat că un scenariu de tip „cel mai rău caz” este puțin probabil într-un mediu de zi cu zi, afirmând că orice tentativă de auto-replicare este „puțin probabil să reușească în condiții reale”.
Dalrymple consideră că sistemele AI vor fi capabile să automatizeze echivalentul unei zile întregi de muncă în cercetare și dezvoltare până la sfârșitul anului 2026, ceea ce va „duce la o accelerare suplimentară a capacităților”, deoarece tehnologia va putea să se auto-îmbunătățească în aspectele de matematică și informatică ale dezvoltării AI.
Ştiri video recomandate
