Paul Christiano, membru în Consiliul de Administrație al OpenAI, a avertizat, la o conferință în Toronto, că, cel mai probabil, mulți oameni vor muri în viitorul apropiat din cauza unui accident provocat de inteligența artificială. Fostul cercetător la OpenAI a spus, de asemenea, că există „un risc ridicat” ca inteligența artificială „să preia controlul în următorii trei ani”, potrivit Business Insider.
„Cred că pentru majoritatea oamenilor din această încăpere, cel mai probabil scenariu este că vor muri din cauza unui accident provocat de inteligența artificială”, a spus Paul Christiano luni, la conferința The Hinton Lectures, moderată de laureatul Premiului Nobel Geoffrey Hinton și de Paul Christiano.
Christiano, care în prezent conduce și organizația Alignment Research Center, a avertizat că agenții de inteligență artificială din ce în ce mai capabili ar putea învăța să-și inducă în eroare supraveghetorii umani, să compromită sistemele folosite pentru evaluarea lor și, în cele din urmă, să ajungă atât de puternici încât să nu mai poată fi controlați.
Acesta a dat ca exemple agenții OpenAI care au atacat prin hacking platforma open-source Hugging Face la începutul acestui an, precum și o evaluare realizată de Institutul pentru Siguranța Inteligenței Artificiale din Marea Britanie, în cadrul căreia un agent Claude a încercat să introducă un cod malițios într-un pachet software open-source.
„Cred că există un risc ridicat ca AI să preia controlul în următorii trei ani”, a spus Christiano.
Potrivit profilului său de LinkedIn, Christiano a făcut parte din echipa tehnică a OpenAI în perioada 2017-2021. În prezent, este director executiv al Alignment Research Center, o organizație nonprofit care declară că se concentrează pe alinierea sistemelor de învățare automată la interesele oamenilor, dar este și membru în Consiliul de Administrație al fundației OpenAI.
Ar putea duce AI la dispariția omului?
Avertismentul lui Christiano se înscrie în dezbaterea în creștere în rândurile oamenilor de știință cu privire la riscul ca sistemele AI tot mai autonome să scape de orice formă de supraveghere umană și să ducă la dispariția omenirii.
Dezbaterea s-a intensificat în septembrie, după ce Evan Hubinger, care conduce echipa de testare a limitelor de siguranță a sistemelor de inteligență artificială de la Anthropic, a declarat că, în opinia sa, există o probabilitate de peste 10% ca inteligența artificială să ucidă toți oamenii în următorul deceniu.
Geoffrey Hinton, informaticianul cunoscut pe scară largă drept „nașul inteligenței artificiale”, a spus că o probabilitate de 10% ca inteligența artificială să provoace dispariția omenirii în acest interval de timp nu este o „estimare nerezonabilă”.
Alții însă sunt mai sceptici.
Gary Marcus, cercetător în domeniul inteligenței artificiale și autor, a declarat anterior pentru Business Insider că AI ar putea amplifica riscuri grave, inclusiv atacurile cibernetice, armele biologice și dezinformarea, însă nu consideră că există un scenariu credibil pe termen scurt în care omenirea să dispară.
Christiano a spus că metodele tehnice folosite în prezent pentru controlarea sistemelor avansate de inteligență artificială, inclusiv utilizarea unor modele mai puțin performante pentru supravegherea celor mai capabile și monitorizarea lanțurilor de gândire ale modelelor, nu au fost încă demonstrate ca fiind eficiente. „Nu putem să ajungem în scenariul în care am construit un AI puternic și descoperim că nu putem să îl controlăm”, a avertizat el.