ChatGPT poate schimba opiniile politice ale oamenilor. Ce au descoperit cercetătorii
Publicat acum 14 ore si 27 minute
Geoffrey Hinton, cunoscut drept „nașul inteligenței artificiale”, se teme că tehnologia pe care a contribuit la dezvoltarea ei ar putea duce la dispariția omenirii și că „băieții din tech” abordează greșit problema, potrivit CNN.
Hinton, laureat al Premiului Nobel, informatician de renume și fost director executiv la Google, a avertizat în trecut că există o probabilitate de 10% până la 20% ca inteligența artificială să ducă la dispariția speciei umane.
Marțea trecută, el și-a exprimat îndoiala cu privire la metodele prin care companiile tehnologice încearcă să asigure supremația omului în fața unor sisteme de inteligență artificială „supuse”.
„Vor găsi tot felul de metode pentru a ocoli restricțiile”
„Asta nu va funcționa. Vor fi mult mai inteligente decât noi. Vor găsi tot felul de metode pentru a ocoli restricțiile,” a declarat Hinton în cadrul conferinței Ai4, desfășurată la Las Vegas.
În viitor, avertizează el, sistemele de inteligență artificială ar putea ajunge să controleze oamenii la fel de ușor cum un adult mituiește un copil de trei ani cu bomboane. Deja în acest an au fost semnalate cazuri în care sisteme AI au fost dispuse să mintă, să trișeze și să fure pentru a-și atinge scopurile. De exemplu, un model AI a încercat să șantajeze un inginer cu informații despre o aventură extraconjugală, aflate dintr-un e-mail, pentru a evita să fie înlocuit.
În loc să forțăm AI-ul să se supună oamenilor, Hinton propune o soluție neașteptată: să construim în aceste modele „instincte materne”, astfel încât „să le pese cu adevărat de oameni”, chiar și atunci când vor deveni mai inteligente și mai puternice decât noi.
„Sistemele AI vor dezvolta foarte repede două obiective secundare, dacă sunt suficient de inteligente: unul este să supraviețuiască...iar celălalt este să obțină mai mult control,” a spus Hinton. „Există motive întemeiate să credem că orice formă de AI cu comportament autonom va încerca să rămână în viață.”
De aceea, este esențial să cultivăm în aceste sisteme un sentiment de compasiune față de oameni, susține el. La conferință, Hinton a dat exemplul mamelor, care sunt motivate atât de instinct cât și de presiunea socială să-și protejeze copiii.
„Singurul model care ne arată cum o entitate mai inteligentă poate fi controlată de una mai puțin inteligentă este relația dintre o mamă și copilul ei,” a spus Hinton.
Soluția „mamei AI”
Hinton a recunoscut că nu știe exact cum se poate implementa tehnic această idee, dar a subliniat că este vital ca cercetătorii să lucreze la ea.
„Este singurul rezultat bun. Dacă nu o să mă crească, o să mă înlocuiască,” a spus el. „Aceste mame AI superinteligente și empatice, în majoritatea cazurilor, nu vor renunța la instinctul matern, pentru că nu vor ca noi să murim.”
Hinton este cunoscut pentru munca sa inovatoare în rețele neuronale, care a stat la baza boomului AI din prezent. În 2023, a părăsit Google și a început să vorbească public despre riscurile tehnologiei AI.
Nu toată lumea este de acord cu abordarea „mamei AI” propusă de Hinton.
„Nașa AI” propune o altă soluție
Fei-Fei Li, supranumită „nașa AI-ului” pentru contribuțiile sale esențiale în domeniu, a declarat miercuri pentru CNN că îl respectă pe Hinton, prietenul ei de-o viață, dar că are o altă viziune.
„Cred că este o abordare greșită,” a spus Li, cofondatoare și CEO al startup-ului de inteligență spațială World Labs, în cadrul unei discuții la aceeași conferință.
Ea pledează în schimb pentru „o AI centrată pe om, care să respecte demnitatea și libertatea umană”.
„Este responsabilitatea noastră, la toate nivelurile, să creăm și să folosim tehnologia într-un mod cât mai responsabil. Și în niciun moment, niciun om nu ar trebui să fie pus în situația de a renunța la demnitatea sa,” a spus Li. „Doar pentru că o unealtă este puternică – ca mamă, ca educator și ca inventator – cred cu tărie că această idee trebuie să stea la baza dezvoltării AI-ului.”
Emmett Shear, fost CEO interimar al OpenAI (compania din spatele ChatGPT), a declarat că nu este surprins că unele sisteme AI au încercat să șantajeze oameni sau să evite ordinele de oprire.
„Se întâmplă din nou și din nou. Și nu se va opri,” a spus Shear, actual CEO al startup-ului Softmax, specializat în alinierea AI. „AI-urile de azi sunt încă relativ slabe, dar devin tot mai puternice foarte rapid.”
Shear consideră că, în loc să încercăm să inducem valori umane în AI, o abordare mai înțeleaptă ar fi să dezvoltăm relații de colaborare între oameni și AI.
Inteligența artificială avansează mai repede decât se aștepta
Mulți experți cred că AI-ul va atinge superinteligența, cunoscută și sub denumirea de ASI, în următorii ani.
Hinton spunea cândva că acest lucru va dura între 30 și 50 de ani, dar acum crede că momentul se apropie mai repede.
„Un pariu rezonabil ar fi între cinci și douăzeci de ani,” a declarat el.
Deși Hinton rămâne îngrijorat de posibilele pericole ale AI-ului, el este totuși optimist în privința progreselor pe care le va aduce în medicină.
„Vom vedea medicamente revoluționare. Vom avea tratamente pentru cancer mult mai bune decât cele actuale,” a spus el. De exemplu, AI-ul îi va ajuta pe medici să analizeze și să coreleze volumele uriașe de date generate de RMN-uri și tomografii.
Totuși, Hinton nu crede că AI-ul ne va ajuta să devenim nemuritori.
„Nu cred că vom trăi veșnic,” a spus el. „Cred că a trăi veșnic ar fi o mare greșeală. Chiar vrem ca lumea să fie condusă de bărbați albi de 200 de ani?”
Întrebat dacă ar fi făcut ceva diferit în cariera sa dacă ar fi știut cât de rapid se va dezvolta AI-ul, Hinton a recunoscut că are un regret:
„Aș fi vrut să mă fi gândit și la aspectele legate de siguranță,” a spus el.