Un cercetător polonez a realizat un test şi a reuşit să creeze cu ajutorul ChatGpt paşapoarte sau chitanţe atât de realiste încât ar putea declanșa un val de fraude.
Modelele recente de AI generative, cum ar fi Modelul 4o al OpenAI, au înregistrat evoluţii spectaculoase şi au uimit prin capacitatea lor de a crea și procesa imagini. Acest lucru este demonstrat de valul de meme și desene în stilul Studio Ghibli al maestrului japonez Hayao Miyazaki.
Însă două situaţii recente legate de ChatGpt şi de modelul Gpt-4o au iscat îngrijorări majore , relatează Corriere della Sera.
Primul caz vine de la un cercetător polonez specializat în securitate cibernetică, Borys Musielak care a demonstrat cum este posibil să fie folosit Gpt-4o pentru a crea o replică aproape perfectă a unui pașaport în doar cinci minute. Documentul generat artificial s-a dovedit a fi suficient de realist pentru a păcăli sistemele automate de verificare a identității (KYC – Know Your Customer), utilizate de multe platforme online.
You can now generate fake passports with GPT-4o.
It took me 5 minutes to create a replica of my own passport that most automated KYC systems would likely accept without blinking.
The implications are obvious --any verification flow relying on images as “proof” is now officially… pic.twitter.com/SNnH8zYMGq— Borys Musielak @ Warsaw (@michuk) April 1, 2025
Experimentul a evidențiat o vulnerabilitate critică, pentru că multe sisteme de verificare digitală se bazează încă în principal pe compararea fotografiilor din documente cu selfie-urile utilizatorului, fără a folosi mecanisme mai solide, cum ar fi validarea prin cipuri NFC, încorporate în pașapoartele biometrice moderne. Cercetătorul a subliniat mai presus de toate ușurința și rapiditatea cu care a fost posibilă crearea unui fals convingător, depășind imperfecțiunile tipice imaginilor generate de inteligenţa artificială.
La câteva ore după demonstrația publică a lui Musielak, ChatGpt a început să respingă cereri similare. Acum la o cerere precum cea a expertului polonez, chatbot-ul răspunde cu un refuz, invocând politicile sale de securitate împotriva generării de documente false. Astfel s-a demonstrat modul în care noile modele GenAI fac ca procesele de verificare bazate exclusiv pe imagini sau videoclipuri statice, precum cele ale multor platforme fintech, ca de exemplu bănci online, brokeri, companii de asigurări etc., să fie învechite. Implicațiile sunt alarmante, pentru că se deschide posibilitatea furtului de identitate pe scară largă, a cererilor de credit frauduloase și a creării de conturi false în masă.
În ultimele zile, a apărut o altă problemă generată de noile modele OpenAI. Este vorba despre capacitatea de a genera text lizibil și realist în cadrul unor imagini, care reprezenta o limită a variantelor anterioare şi care acum nu a trecut neobservată de către cei care încearcă să exploateze tehnologia în scopuri ilicite.
Astfel numeroase imagini cu chitanțe și facturi false au apărut pe rețelele de socializare, cum ar fi X, create folosind inteligenţa artificială generativă a ChatGPT-4o. Unele exemple sunt în mod evident artificiale, dar altele ating un nivel surprinzător de realism, încorporând detalii precum mici cute în hârtie sau pete simulate, ca de exemplu, petele de ulei de pe bonurile de la restaurant. Este greu să le deosebești de cele autentice, cel puțin la prima vedere.
Generating fake invoices, spurious flight tickets, bogus school certificates, falsified rent receipts, forged visa docs etc just became super easy with Chatgpt 4o... check out this ?
— Amit Ranjan (@amitranjan) March 31, 2025
I guess the market for document authentication & validation, source of truth systems, fraud… https://t.co/ux3TzZhHq9 pic.twitter.com/Q7STVzrsPs
Astfel de documente false ar putea fi folosite de angajații necinstiți care ar putea folosi aceste documente false pentru a solicita rambursări de cheltuieli pentru achiziții pe care nu le-au făcut niciodată, realizând fraude împotriva companiilor sau agențiilor guvernamentale. Cu atât mai mult într-o epocă în care multe instituţii nu cer chitanță pe hârtie ci se mulțumesc, din motive practice şi de timp, cu o fotografie sau o scanare. Este posibil ca într-un viitor nu prea îndepărtat, companiile să fie nevoite să recurgă la noi sisteme de verificare, precum integrarea codurilor QR criptate pe toate documentele fiscale sau adoptarea unor sisteme de verificare bazate pe blockchain pentru a asigura autenticitatea tranzacțiilor.
La rândul său, OpenAI a precizat că imaginile generate de modelul 4o includ metadate care indică originea lor artificială, dar această limită ar putea fi ocolită fără prea mare dificultate.
Ştiri video recomandate
