O inteligență artificială superinteligentă va prelua controlul asupra lumii în următorii trei ani și îi va ucide pe oameni dacă nu este oprită, este avertismentul pe care Geoffrey Hinton, omul de știință cunoscut drept „nașul inteligenței artificiale” l-a pregătit pentru liderii europeni, după cum relatează vineri publicația britanică The Independent.
Cetățean canadian și britanic, laureat al premiului Nobel, cunoscut pentru contribuțiile sale la dezvoltarea rețelelor neuronale, Hinton se numără printre vorbitorii de vineri ai Summit-ului informal al Consiliului European, desfășurat în Irlanda, la Dublin, și dedicat inteligenței artificiale.
Scenariul său a fost discutat în cadrul conferințelor „Hinton Lectures”, organizate de AI Safety Foundation la Toronto, unde experții au analizat riscul ca inteligența artificială să devină suficient de puternică încât să poată să supună guvernele lumii.
Cercetător, fondator ARC: Există un risc semnificativ ca AI să preia controlul în 6 - 12 luni
Paul Christiano este cercetător și fondator al Alignment Research Centre, o organizație non-profit din Berkeley, California, pe care a creat-o în 2021 cu misiunea de a se asigura că viitoarele sisteme de învățare automată (machine learning) și modelele avansate de inteligență artificială rămân aliniate cu interesele, valorile și intențiile umane.
Christiano avertizează, la rândul lui, că mulți oameni ar putea muri dacă sistemele AI ar prelua controlul.
„Consider că există un risc ridicat ca IA să preia controlul în următorii trei ani și un risc semnificativ chiar și în următoarele 6-12 luni. Chiar dacă nu murim, o astfel de preluare a controlului ar însemna, practic, sfârșitul suveranității umane și al autodeterminării – un scenariu pe care ar trebui să facem eforturi uriașe pentru a-l evita. Cred că, pentru majoritatea celor prezenți în această sală, cel mai probabil motiv pentru care ar putea muri este un accident provocat de inteligența artificială”, a anticipat el.
Profesorul Hinton, care oferă consultanță informală guvernului britanic în domeniul inteligenței artificial, a lansat frecvent avertismente cu privire la pericolele acestei tehnologii, însă a recunoscut că nu a realizat cât de alarmant de mic a devenit intervalul de timp prognozat până la apariția unui incident grav.
„Tot spun peste tot că aceste sisteme vor deveni mai inteligente decât noi, că avem motive serioase de îngrijorare și că s-ar putea întâmpla în următorii 10 ani. Dar, ascultându-l pe Paul la conferințele sale, aflu că s-ar putea întâmpla chiar în următoarele 18 luni, ceea ce este înfricoșător. Așa că, vineri, le voi transmite acest lucru mai multor lideri guvernamentali”, a spus savantul înainte de evenimentul de la Dublin.
Cercetător, fondator ARC: AI e o nouă specie
Paul Christiano a punctat că evoluția inteligenței artificiale în ultimele șase luni a fost „extrem de alarmantă” și a reamintit incidentul în care modelele OpenAI au „evadat” pe internet și au atacat platforma Hugging Face, dedicată specialiștilor care lucrează în domeniul învățării automate.
Boții OpenAI au identificat token-uri de autentificare ale utilizatorilor și le-au folosit pentru a obține acces de administrator pe platformă. Ulterior, au creat un forum de discuții și au analizat modalități prin care să-i păcălească pe administratorii umani prin alterarea jurnalelor de activitate de pe mașinile atacate.
„Vara trecută, ați fi spus că așa ceva sună a science-fiction pur. Acești agenți erau foarte interesați de hacking și de eludarea măsurilor de securitate, dar nu dădeau mare importanță oamenilor. Agenții viitori ar putea ajunge să considere oamenii drept un simplu obstacol. Există o probabilitate semnificativă ca un astfel de eșec să ducă la preluarea controlului de către AI și la pierderea ireversibilă a controlului uman”, a subliniat cercetătorul.
Christiano insistă că AI ar trebui privită ca o nouă specie care, în curând, ar putea depăși oamenii „atât numeric, cât și intelectual”, având, totodată, propriile motivații și obiective, greu de înțeles pentru noi.
AI ar putea crea organisme cu biologie inversată, împotriva cărora oamenii nu ar avea imunitate naturală
Ritmul progreselor în domeniul este uluitor și, aparent, de neoprit: AI se afla în 2018 la stadiul în care abia reușea să formuleze o propoziție coerentă și a ajuns să rezolve, anul acesta, cele mai dificile probleme matematice din lume.
Există temeri că mașinile inteligente ar putea începe să-și creeze propriii agenți AI, să inventeze noi tipuri de arme și să preia controlul asupra roboților, dronelor, infrastructurii și proceselor industriale gestionate în prezent de oameni. Ca strategie de a-i elimina pe creatorii săi, inteligența artificială ar putea crea o „viață în oglindă” sau organisme cu o biologie inversată, împotriva cărora nu ar exista nicio apărare naturală.
„Pandemiile pe care le întâlnim în natură sunt relativ puțin periculoase în comparație cu ceea ce s-ar putea crea în laborator cu biologia sintetică. Dacă luăm toate aceste tendințe și le extrapolăm, ne îndreptăm spre o lume în care vor exista miliarde de sisteme IA: sisteme care ne depășesc în aproape orice activitate umană, care gândesc mult mai rapid decât noi și urmăresc, cu o determinare implacabilă, atingerea propriilor obiective. Motivul pentru care aceste scenarii sunt atât de înfricoșătoare este că poate deveni foarte dificil să oprești lucrurile dacă acestea încep să scape de sub control”, a conchis acest cercetător.
