Sam Altman, directorul OpenAI, avertizează asupra unui scenariu în care o singură companie ar putea dezvolta o inteligență artificială atât de puternică încât să-și elimine concurenții și să preia controlul asupra tehnologiei și a unei mari părți a economiei. Într-un memorandum adresat angajaților, el a prezentat trei posibile scenarii privind controlul AI, unul dintre ele fiind descris drept „îngrozitor”, potrivit moneywise.com.
Primele două scenarii sunt acceptabile: crearea unei autorități globale independente care să supravegheze sectorul și actorii săi, să pună în aplicare politici și să tragă la răspundere toate părțile implicate, sau înființarea unui fel de laborator global colaborativ de inteligență artificială, prin intermediul căruia să se desfășoare toate activitățile de cercetare, dezvoltare și lansare a produselor.
Există însă și posibilitatea mai puțin agreabilă ca o companie să creeze o inteligență artificială atât de puternică încât să o poată folosi pentru a-și elimina concurenții și pentru a-și însuși controlul deplin asupra tehnologiei, și, implicit, asupra unei mari părți a economiei, inclusiv asupra resurselor necesare dezvoltării inteligenței artificiale.
„Cred că acel scenariu este îngrozitor”, ar fi spus Altman, speculând că orice entitate care ar ajunge să dețină o asemenea putere probabil că ar începe prin a „topi procesoarele grafice (GPU-urile) ale tuturor celorlalți”. Iar pe măsură ce ne apropiem de algoritmi capabili să se îmbunătățească singuri în mod recursiv, această perspectivă devine tot mai realistă.
Evoluția AI care ar putea duce la pierderea controlului
Această posibilitate a fost numită „Planul Eliezer”, o referire la cercetătorul în domeniul inteligenței artificiale și susținătorul siguranței acesteia Eliezer Yudkowsky. Acesta a folosit „arderea tuturor GPU-urilor” ca exemplu al modului în care inteligența artificială ar putea fi utilizată pentru a provoca distrugeri potențial letale și al capacităților pe care actorii puternici și responsabili din domeniu trebuie să le dobândească pentru a împiedica actorii mai rău intenționați să procedeze astfel.
Yudkowsky, unul dintre primii și cei mai cunoscuți oameni care au avertizat că inteligența artificială ne-ar putea ucide pe toți, a cerut în 2023 oprirea dezvoltării inteligenței artificiale de ultimă generație, cel puțin până când părțile implicate ar putea „să elaboreze și să pună în aplicare împreună un set de protocoale comune de siguranță [...] care să fie auditate riguros și supravegheate de experți externi independenți”.
Acest apel este în concordanță cu celelalte două alternative menționate de Altman în informarea pe care le-a prezentat-o angajaților la începutul acestei luni.
Altman a susținut anterior necesitatea înființării unui organism internațional de reglementare a inteligenței artificiale avansate, similar celui propus în primul său scenariu, comparabil cu Agenția Internațională pentru Energie Atomică.
„Orice efort care depășește un anumit prag de capabilități (sau de resurse, precum puterea de calcul) va trebui să fie supus unei autorități internaționale care să poată inspecta sistemele, să impună audituri, să testeze respectarea standardelor de siguranță, să impună restricții privind amploarea implementării și nivelurile de securitate etc.”, se arată într-o postare publicată de OpenAI în 2023 despre guvernanța tehnologiei.
Sam Altmen, despre sccenariile unei reglementări internaționale a AI
Al doilea scenariu final al lui Altman ar necesita, în schimb, o organizație mai apropiată de modelul Organizației Europene pentru Cercetare Nucleară, care ar fi alcătuită din dezvoltatori și ar fi responsabilă de modelele de inteligență artificială și de utilizarea acestora.
Alte personalități din domeniul tehnologiei, care se află mai degrabă la periferia acestui sector, precum fondatorul Microsoft, Bill Gates, au avansat scenarii și mai sumbre despre pericolele pe care inteligența artificială ni le-ar putea aduce. Printre acestea se numără capacitatea de a le permite oamenilor, și mașinilor, să provoace mai multe daune decât în prezent, de a frâna dezvoltarea naturală a oamenilor, de a înlocui relațiile din viața reală și de a lăsa milioane de oameni fără locuri de muncă.
„Inteligența artificială va fi fie cel mai mare instrument de egalizare inventat vreodată, fie cea mai gravă sursă de nedreptate”, a scris Gates în august. Alții, precum Geoffrey Hinton, considerat „nașul” AI, și-au exprimat în mod similar scepticismul față de ritmul accelerat și necontrolat al dezvoltării sectorului, avertizând că programele de inteligență artificială sunt deja dispuse să ne înșele și că ar putea „scăpa de noi”.
