Unul dintre pionierii inteligenței artificiale avertizează că oamenii ar trebui să fie pregătiți să oprească sistemele avansate de AI dacă acestea scapă de sub control. Informatianul canadian Yoshua Bengio critică ferm ideea acordării unor drepturi legale inteligenței artificiale, susținând că progresele tehnologice depășesc cu mult capacitatea de a le controla, potrivit The Guardian.
Yoshua Bengio conduce un important studiu internațional privind siguranța AI, iar recent a vorbit despre impactul progreselor inteligenței artificiale în următorii ani.
Acesta a comparat acordarea de drepturi legale unor sisteme de ultimă generație cu „oferirea cetățeniei unor extratereștri ostili”.
„Imaginați-vă că niște specii extraterestre vin pe planetă și, la un moment dat, ne dăm seama că au intenții malefice față de noi. Le acordăm cetățenie și drepturi sau ne apărăm viețile?”, a întrebat acesta.
Cercetătorul atrage atenția că percepția tot mai răspândită potrivit căreia chatbot-urile ar deveni conștiente ar putea conduce la decizii greșite.
„Oamenii care cer ca AI să aibă drepturi ar comite o greșeală imensă”, a spus Bengio.
„Modelele AI avansate dau deja semne de autoconservare în mediile experimentale de astăzi, iar acordarea drepturilor acestora ar însemna că nu avem voie să le oprim.
Pe măsură ce capacitățile și gradul lor de autonomie cresc, trebuie să ne asigurăm că putem conta pe barierele tehnice și sociale pentru a le controla, inclusiv pe capacitatea de a le opri, dacă este necesar”, a mai adăugat acesta.
Experții atrag atenția că aceste sisteme ar putea dezvolta capacitatea de a evita regulile impuse
Cercetătorul a mai explicat că unele modele avansate sugerează dorința de a-și menține funcționarea, inclusiv prin încercări de a dezactiva sistemele de supraveghere.
„Oamenilor nu le-ar păsa ce fel de mecanisme se află în interiorul IA”, a adăugat el.
„Ceea ce le pasă este că au senzația că vorbesc cu o entitate inteligentă care are propria personalitate și propriile obiective. De aceea sunt atât de mulți oameni care se atașează de AI-urile lor.
„Vor fi oameni care vor spune întotdeauna: „Orice mi-ai spune, sunt sigur că este conștient”, iar alții vor spune exact opusul. Acest lucru se datorează faptului că conștiința este ceva pentru care avem o intuiție.
Fenomenul percepției subiective a conștiinței va conduce la decizii greșite”, a mai adăugat el.
O temere importantă în rândul experților în siguranța inteligenței artificiale este că aceste sisteme ar putea dezvolta capacitatea de a evita regulile impuse și, în cele din urmă, de a provoca daune oamenilor.
Din acest motiv, Bengio consideră esențial ca societatea să păstreze mecanisme clare de control, inclusiv posibilitatea de a opri complet aceste tehnologii.
Ştiri video recomandate
