Deloitte va rambursa guvernului federal din Australia o parte din suma de 440.000 de dolari încasată de un raport care conținea mai multe erori, după ce a recunoscut că a folosit inteligență artificială generativă pentru a-l redacta, potrivit The Guardian.
Departamentul pentru Ocuparea Forței de Muncă și Relații la Locul de Muncă (DEWR) a confirmat că Deloitte va returna ultima tranșă din cadrul contractului, care va fi făcută publică după finalizarea tranzacției. Totul vine în contextul în care un senator laburist a acuzat firma de consultanță că are o „problemă de inteligență umană”.
Deloitte a fost angajată de departament în decembrie 2024 pentru a revizui cadrul de conformitate țintită și sistemul său IT, folosit pentru a automatiza penalizările în sistemul de asistență socială în cazul în care persoanele aflate în căutarea unui loc de muncă nu își îndeplineau obligațiile.
Raport cu „halucinații” ale AI
Raportul rezultat a identificat numeroase probleme, inclusiv lipsa de „trasabilitate” între regulile cadrului și legislația aferentă, precum și „defecte de sistem”. Se menționa că sistemul IT era „condus de presupuneri punitive legate de neconformitatea participanților”.
Raportul a fost publicat inițial pe 4 iulie. A fost reîncărcat pe site-ul DEWR vineri, după ce publicația Australian Financial Review a raportat în august că fuseseră identificate multiple erori, inclusiv referințe și citări inexistente.
Academicianul de la Universitatea din Sydney, dr. Christopher Rudge, cel care a semnalat inițial erorile, a declarat că raportul conținea „halucinații” – cazuri în care modelele AI pot completa lacune, interpreta greșit datele sau încerca să „ghicească” răspunsuri.
„În loc să înlocuiască o referință falsă halucinată cu una nouă, reală, au înlocuit referințele false cu și mai multe – în versiunea nouă sunt cinci, șase, șapte sau chiar opt în locul uneia. Asta sugerează că afirmația originală din corpul raportului nu era bazată pe nicio sursă concretă de dovezi” a spus el.
Revizuirea actualizată notează „un număr mic de corecții privind referințele și notele de subsol”, însă departamentul a declarat că nu au existat modificări ale recomandărilor din raport.
Cum a răspuns compania la acuzații
„Deloitte a realizat analiza independentă de asigurare și a confirmat că unele note de subsol și referințe erau incorecte. Conținutul substanțial al revizuirii independente este păstrat, iar recomandările rămân neschimbate”, a declarat un purtător de cuvânt al departamentului.
În versiunea actualizată a raportului, Deloitte a adăugat în anexă o mențiune privind utilizarea inteligenței artificiale generative. Se precizează că o parte a raportului „a inclus utilizarea unui lanț de instrumente bazat pe un model de limbaj mare de inteligență artificială generativă (Azure OpenAI GPT-4o), licențiat de DEWR și găzduit în platforma Azure a DEWR”.
Deloitte nu a afirmat că inteligența artificială ar fi fost cauza erorilor din raportul inițial. De asemenea, și-a menținut concluziile inițiale ale revizuirii.
„Modificările aduse nu afectează în niciun fel conținutul, concluziile sau recomandările substanțiale ale raportului,” se arată în versiunea modificată.
Un purtător de cuvânt al Deloitte a declarat că „problema a fost rezolvată direct cu clientul”.
Dr. Rudge a spus că, deși a criticat raportul, ezită să spună că acesta ar trebui considerat complet „ilegitim”, deoarece concluziile sunt în concordanță cu alte dovezi larg răspândite.
„În locul unei firme de consultanță, cei interesați ar fi mai bine să își facă un abonament la ChatGPT”
Senatoarea laburistă Deborah O’Neill, care a participat la o anchetă a Senatului privind integritatea firmelor de consultanță, a declarat că pare că „AI este lăsată să facă toată munca grea”.
„Deloitte are o problemă de inteligență umană. Ar fi de râs dacă nu ar fi atât de jalnic. O rambursare parțială pare o scuză parțială pentru o muncă de slabă calitate,” a spus ea.
„Oricine intenționează să contracteze aceste firme ar trebui să întrebe exact cine face munca pentru care plătesc și să ceară dovezi de expertiză reală și lipsa utilizării AI. Poate că, în locul unei mari firme de consultanță, cei interesați ar fi mai bine să își facă un abonament la ChatGPT.”, a adăugat aceasta.
Australian Financial Review a descoperit mai multe referințe incorecte în raportul original, inclusiv mențiuni despre rapoarte inexistente atribuite unor profesori de la Universitatea din Sydney și Universitatea Lund din Suedia.
Publicația a mai raportat o referință inventată privind o decizie judecătorească într-un caz legat de robodebt: Deanna Amato vs Commonwealth. Deloitte a scris în raportul final că actualizarea a „corectat rezumatul procedurii Amato, care conținea erori”.
Ce este Big Four
„Big Four” este denumirea dată celor mai mari patru firme de audit și consultanță din lume: Deloitte, PwC (PricewaterhouseCoopers), EY (Ernst & Young) și KPMG. Aceste companii oferă servicii esențiale pentru marile corporații, instituții financiare și chiar pentru guverne, în domenii precum audit financiar, consultanță fiscală, strategie de afaceri, digitalizare și managementul riscului.
Cu birouri în zeci de țări și sute de mii de angajați la nivel global, „Big Four” joacă un rol major în economia mondială. Ele auditează cele mai importante companii listate la bursă și consiliază organisme internaționale în luarea deciziilor economice și fiscale.
Influența lor este imensă, dar nu lipsită de controverse. De-a lungul anilor, firmele din Big Four au fost implicate în dezbateri privind etica profesională, conflicte de interese și calitatea unor servicii prestate, mai ales când vine vorba de proiecte sensibile pentru sectorul public.
Ştiri video recomandate
