26 de angajați ai Meta, compania lui Mark Zuckerberg, susțin că sistemele interne au transformat activitatea digitală și utilizarea inteligenței artificiale în concedieri, ceea ce a dus la efecte discriminatorii, în condiţiile în care lucrătorii aflați în concediu medical, concediu parental sau cei cu dizabilități au fost penalizați. Meta a negat acuzațiile.
De luni de zile, Meta și-a îndemnat angajații să utilizeze din ce în ce mai multe instrumente de inteligență artificială. În luna mai, cantitatea de inteligență artificială utilizată de fiecare lucrător va deveni, de asemenea, unul dintre criteriile folosite de gigantul tehnologic pentru a determina cine ar trebui să își piardă locurile de muncă, potrivit unui nou proces intentat la tribunalul federal din California, relatează La Repubblica.
Plângerea a fost semnată de 26 de angajați, ale căror nume sunt anonime pentru a le proteja informațiile medicale și familiale. Aceștia se numără printre cele aproximativ 8.000 de persoane, reprezentând 10% din forța de muncă globală a Meta, afectate de restructurarea anunțată în luna mai a anului trecut. Angajații solicită judecătorului să suspende concedierile în timp ce cererile lor sunt examinate prin arbitraj individual. Aceștia susțin că Meta a folosit sisteme bazate pe inteligență artificială pentru a clasifica angajații, ceea ce a dus, conform unui raport al Wall Street Journal, la rezultate discriminatorii, în special împotriva persoanelor cu dizabilități și a angajaților care au luat concediu medical, parental sau familial protejat legal.
Cazul este încă în fază incipientă. Acuzațiile nu au fost dovedite în instanță, iar Meta le consideră nefondate.
Criteriile concedierilor
Plângerea descrie un proces mult mai amplu decât un singur algoritm responsabil pentru generarea unei liste de nume. Potrivit reclamanților, Meta a combinat date de la Metamate, asistentul intern bazat pe un model lingvistic extins, cu agenți personali instruiți în comunicarea și documentele angajaților. Aceste instrumente ar fi însoțite de sisteme de evaluare a performanței, clasamente ale adoptării inteligenței artificiale și tablouri de bord care arată consumul individual de tokenuri, care sunt mici unități de text procesate de modelele lingvistice. Numărarea consumului lor permite să se estimeze cât de mult folosește o persoană un chatbot sau alt serviciu generativ. Numărul, însă, nu explică calitatea muncii prestate și depinde de multe alte elemente: de exemplu, rolul, proiectele atribuite și timpul efectiv petrecut lucrând. Acuzaţiile aduse companiei susțin, de asemenea, că procesul a folosit date digitale despre activitatea, inclusiv apăsări de taste, mișcări ale mouse-ului, conținutul ecranului, istoricul browserului, mesaje și e-mailuri, colectate pe dispozitivele companiei. O parte din aceste date au fost încorporate în scoruri de productivitate asistate de inteligență artificială și în instrumente de evaluare.
Unul dintre programele citate în plângere se numea Checkpoint. Un director implicat în proces susține că adoptarea inteligenței artificiale trebuia să fie o unitate de măsură centrală pentru evaluarea angajaților și că tablourile de bord relevante nu au reușit să facă distincția între un angajat cu performanțe scăzute și cineva absent temporar în concediu autorizat.
Angajaţii în concediu au produs randament scăzut
Mecanismul contestat de muncitori este ușor de înțeles. O angajată aflată în concediu de maternitate, o persoană care urmează un tratament pentru o boală sau care este absentă temporar pentru a îngriji un membru al familiei folosește mai puțin instrumentele companiei. Un sistem conceput pentru a recompensa volumul de muncă depus poate, prin urmare, interpreta această absență ca un semn al unei performanțe slabe. Plângerea angajaţilor concediaţi susține că Meta nu a suspendat punctajul în timpul concediului și nu a corectat datele înainte de a compara lucrătorii. Absențele protejate legal au devenit astfel, practic, indicatori negativi în procesul de selecție. Prezența unui manager uman în etapa finală de decizie nu elimină neapărat influența unui sistem automatizat. Un manager care primește un clasament sau o listă de angajați considerați mai puțin productivi ar putea pur și simplu să confirme o evaluare deja fundamentată pe date.
Cazul va trebui să clarifice importanța datelor furnizate de instrumentele de inteligență artificială și posibilitățile pe care managerii le-au avut de a le modifica sau ignora. Meta susține că deciziile organizaționale au rămas întotdeauna în mâinile oamenilor.
Cazurile angajaţilor concediaţi
Toți cei 26 de solicitanți au solicitat, au primit sau au utilizat concediu protejat sau măsuri de adaptare legate de dizabilități în ultimii doi ani. Aproximativ jumătate dintre aceştia luaseră concediu pentru o sarcină, nașterea unui copil sau pentru a îngriji un membru al familiei. Printre acestea se numărau opt femei care luaseră concediu de maternitate sau de sarcină și patru bărbați care luaseră concediu parental.
Plângerea detaliază cazul unei cercetătoare care a fost selectată pentru concediere în timp ce se afla în concediu înainte de a naște. Notificarea ar fi sosit cu o zi înainte să intre în travaliu și cu două zile înainte de nașterea fiului ei. Un alt angajat susține că a fost descurajat să ia concediu medical pre-aprobat. Managerul său l-a avertizat că absența ar putea crește probabilitatea de a fi inclus în reduceri de personal. O ingineră susține că evaluarea ei a fost redusă din cauza perioadei de absenţă care a urmat unei accidentări. Pentru aceste persoane, suspendarea solicitată de instanță are consecințe imediate. Concedierea poate duce la pierderea asigurării de sănătate a companiei în timpul sarcinii sau al terapiei, întreruperea acordării dreptului de participare la acțiunile acordate angajaților și, pentru unii lucrători străini, la probleme legate de vize.
Răspunsul din partea Meta
Meta a respins complet acuzațiile. Un purtător de cuvânt al companiei a declarat pentru Reuters că acuzațiile sunt nefondate și că deciziile privind forța de muncă și organizarea au fost luate de persoane fizice. Prin urmare, compania contestă premisa principală a procesului: existența unui proces în care sistemele de inteligență artificială ar fi determinat pe cine să includă pe lista concedierilor. O companie poate utiliza software pentru a colecta informații, a dezvolta evaluări sau a sugera clasamente, păstrând în mod oficial decizia finală în mâinile unui manager. Linia dintre asistența tehnică și luarea automată a deciziilor devine dificil de trasat atunci când judecata umană se bazează pe indicatori generați de mașini. Pentru a-și susține acuzațiile, lucrătorii au solicitat un audit independent al procesului utilizat de Meta. Acest lucru ar ajuta la reconstituirea modului în care datele colectate au influențat concedierile individuale.
Compania „AI-first” evaluează utilizatorii de inteligență artificială
Povestea capătă o semnificație mai largă, deoarece face parte din transformarea Meta într-o companie organizată în jurul inteligenței artificiale.
Compania a însoțit cele 8.000 de reduceri de personal cu transferul a mii de persoane către noi inițiative legate de inteligența artificială. În aceeași perioadă, a crescut investițiile în modelele, cipurile și centrele de date necesare pentru dezvoltarea acestora. Prin urmare, restructurarea afectează atât numărul de angajați, cât și modul în care este evaluată munca lor.
Acuzația angajaților merge cu un pas mai departe: adoptarea inteligenței artificiale ar deveni o măsură a capacității de adaptare la noua Meta. Cei care au folosit un număr mare de token-uri sau au construit agenți personali au demonstrat că urmează direcția companiei. Cei care erau absenți au lucrat într-un rol mai puțin compatibil cu aceste instrumente sau aveau o productivitate redusă din cauza unei probleme medicale riscau să pară mai puțin implicați. Din această perspectivă, inteligența artificială, deși nu înlocuiește lucrătorii, ajută la definirea modelului de angajat considerat cel mai util în noua organizație.
Un caz care ar putea defini algoritmul
Reuters descrie procesul ca fiind probabil primul împotriva unei importante companii americane axat pe utilizarea inteligenței artificiale în selectarea angajaților pentru concediere. Instanța va trebui mai întâi să decidă asupra cererii urgente de menținere a celor 26 de reclamanți la locurile lor pe durata desfăşurării procedurii juridice. Cazul are o semnificație care se extinde dincolo de birourile Meta. Tot mai multe companii utilizează instrumente automate pentru a măsura productivitatea și performanța angajaților. Aceste sisteme pot transforma cantități mari de date în clasamente ușor de citit, oferind managerilor impresia unei evaluări obiective. Argumentele împotriva Meta arată cât de mult depinde această obiectivitate de alegerile încorporate în sistem.