Nu trebuie să aveți încredere oarbă în ce vă spune inteligența artificială, avertizează șeful Google, Sundar Pichai

Oamenii nu trebuie să aibă „încredere oarbă” în tot ceea ce le spun instrumentele AI, a declarat pentru BBC șeful companiei Alphabet, firma-mamă a Google. Directorul executiv Sundar Pichai spune că modelele AI sunt „predispuse la erori” și îi îndeamnă pe utilizatori să le folosească împreună cu alte instrumente.

Domnul Pichai a spus că acest lucru evidențiază importanța existenței unui ecosistem informațional divers, nu doar a bazării exclusive pe tehnologia AI.

„De aceea oamenii folosesc și căutarea Google, iar noi avem și alte produse care sunt mai ancorate în furnizarea de informații exacte.”

Totuși, unii experți spun că marile companii de tehnologie, precum Google, nu ar trebui să le ceară utilizatorilor să verifice corectitudinea răspunsurilor AI, ci ar trebui să se concentreze pe creșterea fiabilității propriilor sisteme.

În timp ce instrumentele AI sunt utile „dacă vrei să scrii ceva creativ”, domnul Pichai a spus că oamenii „trebuie să învețe să folosească aceste instrumente pentru lucrurile la care sunt ele bune și să nu aibă încredere oarbă în tot ceea ce spun”.

El a declarat pentru BBC: „Suntem mândri de munca depusă pentru a oferi informații cât mai exacte posibil, dar tehnologia AI de ultimă generație este predispusă la unele erori.”

Compania afișează avertismente pe instrumentele sale AI pentru a-i informa pe utilizatori că pot apărea greșeli.

Dar acest lucru nu a ferit-o de critici și îngrijorări legate de erorile produse chiar de propriile produse.

Lansarea de către Google a funcției AI Overviews, care rezumă rezultatele căutărilor, a fost umbrită de critici și ironii din cauza unor răspunsuri eronate sau bizare.

Tendința produselor de tip AI generativ, precum chatboții, de a furniza informații înșelătoare sau false este un motiv de îngrijorare pentru experți.

Ce este AI, cum funcționează și de ce sunt unii îngrijorați?

„Știm că aceste sisteme inventează răspunsuri, și o fac pentru a ne mulțumi – iar asta este o problemă”, a declarat Gina Neff, profesoară de AI responsabil la Queen Mary University of London, pentru BBC Radio 4.

„E în regulă dacă întreb „ce film ar trebui să văd în continuare”, dar e cu totul altceva dacă întreb lucruri foarte sensibile despre sănătatea mea, despre starea mea mentală, despre știință, despre știri”, a spus ea.

Ea a îndemnat, de asemenea, Google să își asume mai multă responsabilitate pentru acuratețea produselor sale AI, în loc să transfere această responsabilitate către utilizatori.

„Compania cere acum să își corecteze singură lucrarea în timp ce dă foc școlii”, a spus ea.

„O nouă etapă”

Lumea tehnologiei a așteptat cea mai recentă lansare a modelului AI destinat consumatorilor, Gemini 3.0, care începe să recâștige cotă de piață de la ChatGPT.

Din mai anul acesta, Google a început să introducă un nou „Mod AI” în căutare, integrând chatbotul Gemini, menit să ofere utilizatorilor experiența de a discuta cu un expert.

La acel moment, domnul Pichai a spus că integrarea lui Gemini în căutare marchează „o nouă etapă a schimbării de platformă AI”.

Mișcarea face parte și din eforturile gigantului tehnologic de a rămâne competitiv în fața serviciilor AI precum ChatGPT, care au amenințat dominația Google în căutarea online.

Chatboții cu AI pot rezuma inexact știrile

Comentariile sale susțin cercetările BBC de la începutul acestui an, care au descoperit că chatboții AI au rezumat inexact știri.

ChatGPT de la OpenAI, Copilot de la Microsoft, Gemini de la Google și Perplexity AI au primit conținut de pe site-ul BBC și au fost întrebați despre acesta, iar cercetările au arătat că răspunsurile AI conțineau „inexactități semnificative”.

În interviul acordat BBC, domnul Pichai a spus că există o tensiune între viteza dezvoltării tehnologiei și măsurile implementate pentru a preveni efectele potențial dăunătoare.

Pentru Alphabet, Pichai a spus că gestionarea acestei tensiuni înseamnă a fi „în același timp curajoși și responsabili”.

„Așadar, ne mișcăm rapid în această perioadă. Cred că utilizatorii noștri cer asta”, a spus el.

Gigantul tehnologic și-a majorat investițiile în securitatea AI proporțional cu investițiile în AI, a adăugat Pichai.

„De exemplu, lansăm ca open-source tehnologii care vă vor permite să detectați dacă o imagine este generată de AI”, a spus el.

Întrebat despre comentariile vechi de ani ale miliardarului Elon Musk adresate fondatorilor OpenAI, referitoare la temerile că DeepMind, acum deținută de Google, ar putea crea o „dictatură AI”, domnul Pichai a spus că „nicio companie nu ar trebui să dețină o tehnologie atât de puternică precum AI”.

Dar el a adăugat că în prezent există multe companii în ecosistemul AI.

„Dacă ar exista o singură companie care să dezvolte tehnologie AI și toți ceilalți ar trebui să o folosească, aș fi îngrijorat și eu, dar suntem foarte departe de un astfel de scenariu”, a spus el.