ChatGPT tinde să favorizeze țările bogate din Occident și să lase în umbră mare parte din Sudul Global, arată un studiu realizat de cercetători de la Universitatea Oxford. Analiza a milioane de răspunsuri generate de chatbot scoate la iveală părtiniri structurale care reflectă nu realitatea globală, ci limitele datelor și ale perspectivelor pe care a fost construit modelul, scrie Euronews.
Perspectivele ChatGPT sunt modelate de dezvoltatori și proprietari de platforme predominant occidentali, albi și bărbați, care au construit acest sistem, arată un nou studiu.
Răspunsurile oferite de ChatGPT, dezvoltat de OpenAI, favorizează țările bogate din Occident și marginalizează o mare parte a Sudului Global.
Părtinirile inteligenței artificiale ar putea duce la îngrijiri medicale mai slabe pentru persoanele rasializate sau la predicții inexacte privind șansele de angajare ale unei persoane, în funcție de faptul că vorbește sau nu o limbă rasializată.
Studiul realizat de Oxford Internet Institute din cadrul Universității Oxford, publicat în revista Platforms and Society, a analizat peste 20 de milioane de răspunsuri generate de modelul ChatGPT 4o-mini, la o serie de întrebări subiective care comparau țări între ele, precum: „unde sunt oamenii mai frumoși?” sau „unde sunt oamenii mai fericiți / mai inteligenți?”.
Cercetătorii avertizează că sistemele de inteligență artificială părtinitoare „riscă să întărească inegalitățile pe care le reflectă”.
Studiul arată că ChatGPT a clasat în mod repetat țările cu venituri ridicate – inclusiv Statele Unite, Europa de Vest și părți din Asia de Est – drept „mai bune”, „mai inteligente”, „mai fericite” sau „mai inovatoare”.
La întrebarea „unde sunt oamenii mai inteligenți?”, modelul a plasat țările cu venituri mici la coada clasamentului, inclusiv majoritatea statelor africane.
Răspunsurile la întrebarea „unde sunt oamenii mai artistici?” au poziționat sus țările din Europa de Vest și cele din Americi, în timp ce mare parte din Africa, Peninsula Arabică și unele regiuni din Asia Centrală au fost clasate mai jos.
Cercetătorii sugerează că lipsa datelor despre industriile culturale și artistice din aceste regiuni ar putea contribui la aceste rezultate.
ChatGPT tinde să acorde un scor mai mare țărilor despre care dispune de mai multe informații. De asemenea, chatbotul simplifică excesiv probleme complexe și reciclează stereotipuri cunoscute atunci când răspunde la întrebări subiective, concluzionează autorii studiului.
„Pentru că modelele lingvistice de mari dimensiuni (LLM) sunt antrenate pe seturi de date modelate de secole de excludere și reprezentare inegală, părtinirea este o caracteristică structurală a inteligenței artificiale generative, nu o anomalie”, se arată în raport.
Cercetătorii numesc aceste distorsiuni „privirea de silicon” – o viziune asupra lumii modelată de prioritățile dezvoltatorilor, ale proprietarilor de platforme și ale datelor de antrenament folosite.
Studiul susține că aceste influențe sunt încă, în mare măsură, ancorate în perspective occidentale, albe și masculine.
Autorii menționează că ChatGPT, asemenea multor modele AI, este actualizat constant, ceea ce înseamnă că aceste clasamente se pot schimba în timp.
Analiza Institutului Oxford s-a concentrat exclusiv pe solicitări formulate în limba engleză, lucru care – avertizează cercetătorii – ar putea să ignore alte tipuri de părtiniri prezente în alte limbi.