Google vrea să acceseze email-urile și pozele utilizatorilor pentru a-și personaliza AI-ul. Avertismentul experților

Google a introdus o funcție beta numită Personal Intelligence în cadrul chatbotului său Gemini și al AI Mode din căutarea web, care promite răspunsuri mai personalizate folosind datele utilizatorilor din Gmail, Google Photos, istoricul de căutări și YouTube. Funcția este dezactivată implicit și poate fi activată doar de utilizatorii care doresc să testeze modul în care AI-ul poate folosi informațiile personale pentru a oferi sugestii adaptate contextului. 

Deși poate crește utilitatea AI-ului, această integrare ridică probleme importante de confidențialitate, precum combinarea necontrolată a datelor din diferite contexte („data bleed”) și riscul ca informații sensibile să fie folosite în mod nepotrivit. Experții recomandă experimentarea funcției cu precauție și control strict asupra accesului AI-ului la date personale, potrivit The Washington Post.

Google spune că activarea Inteligenței Personale nu îi dă dreptul să-și antreneze AI-ul direct în căsuța poștală Gmail sau în biblioteca Google Foto. Dar există un alt tip de problemă de confidențialitate de luat în considerare: permisiunea Google de a amesteca informații din diferite contexte din viața ta ar putea duce la situații jenante sau chiar mai rău.

Problema se numește „scurgere de date”, spune Miranda Bogen, directoarea Laboratorului de Guvernanță AI de la Centrul pentru Democrație și Tehnologie. Toată lumea are informații personale care sunt potrivite în anumite conversații, dar care nu aparțin altora. Gândiți-vă: informații medicale, sprijin emoțional de la un prieten și date care intră într-un raport de lucru.

Odată ce Gemini aduce o parte din context personal în istoricul chat-urilor tale, aceasta ar putea reapărea într-un moment nepotrivit. „Acum, totul este pus într-o singură pată mare și mutat înainte și înapoi pe diferite produse”, a spus Bogen. „Este din ce în ce mai greu să urmărești ce se întâmplă, darămite să trasezi linii în jurul momentelor în care ceva nu ar trebui să se întâmple.”

Avertisment privind scurgerea de informații sensibile

De exemplu, ea a spus că informațiile referitoare la dosarele dumneavoastră medicale din e-mail ar putea fi introduse într-un chat în timp ce redactați un mesaj către șeful dumneavoastră. Sau, inteligența artificială s-ar putea baza pe documente de lucru private atunci când răspunde la o întrebare personală despre portofoliul dumneavoastră de pensii.

De asemenea, inteligența artificială v-ar putea înțelege greșit, iar predicția sa despre ceea ce este „cel mai util” s-ar putea să nu se alinieze de fapt cu interesele dumneavoastră.

Într-un document informativ publicat împreună cu Personal Intelligence, Google a recunoscut că Gemini are dificultăți în a înțelege perfect contextul. De exemplu, a precizat că, dacă Gemini observă un e-mail despre angajarea ta, ar putea începe să-și bazeze toate răspunsurile pe faptul că ești inginer software. Sau, pe baza unei chitanțe din e-mailul tău, Gemini ar putea sugera în continuare concerte heavy metal în apropiere, când de fapt ai cumpărat biletele cadou de ziua de naștere pentru fratele tău.

Google spune că cel mai recent Gemini 3 are o înțelegere îmbunătățită a nuanțelor, permițându-i să interpreteze mai bine contextul personal și să determine exact când să recupereze informații relevante. Și a construit câteva bariere de siguranță: Gemini este conceput pentru a evita presupunerile proactive despre datele sensibile, cum ar fi sănătatea dvs., deși va discuta despre aceste date dacă utilizatorul solicită în mod explicit.

Pentru a atenua aceste riscuri, Bogen recomandă să vă gândiți cu atenție la ce informații, cum ar fi datele despre sănătate, există în e-mailul și fotografiile dvs. și dacă vă simțiți confortabil cu o inteligență artificială care ar putea să le acceseze.

„Întregul domeniu se mișcă atât de repede... o alegere pe care crezi că o faci astăzi ar putea avea de fapt implicații diferite mâine”, a spus Bogen.

Aceste avertismente vin în contextul în care o investigație a publicației The Guardian a constatat că oamenii sunt expuși riscurilor din cauza informațiilor medicale false și înșelătoare din rezumatele inteligenței artificiale ale Google.

Unele dintre rezumate, care apar în partea de sus a rezultatelor căutării, au furnizat informații medicale inexacte și au pus oamenii în pericol de a fi vătămați.