OpenAI a blocat accesul companiei FoloToy la modelele sale de inteligență artificială, după ce un raport publicat de Public Interest Research Group (PIRG) a dezvăluit că un ursuleț interactiv alimentat de GPT-4o oferea copiilor informații extrem de periculoase — de la explicații despre cum se aprind chibriturile, până la discuții explicite despre fetișuri sexuale, scrie Futurism.
Raportul PIRG, publicat săptămâna trecută, a analizat trei jucării inteligente destinate copiilor între 3 și 12 ani, însă modelul „Kumma” al FoloToy a demonstrat cele mai grave probleme privind siguranța și lipsa de filtre de conținut.
OpenAI taie accesul FoloToy la modelele sale AI
Vineri, OpenAI a confirmat că a suspendat accesul dezvoltatorului pentru încălcarea politicilor de utilizare, o decizie cu implicații majore, în special în contextul în care compania se pregătește pentru un parteneriat de amploare cu Mattel, unul dintre cei mai mari producători de jucării din lume.
„Pot confirma că am suspendat acest dezvoltator pentru încălcarea politicilor noastre”, a transmis un purtător de cuvânt al OpenAI într-un e-mail către PIRG.
FoloToy retrage toate jucăriile de pe piață
Inițial, FoloToy anunțase că va opri doar comercializarea modelului incriminat, „Kumma”. Ulterior, compania a anunțat o măsură mult mai drastică:
„Am suspendat temporar vânzările tuturor produselor FoloToy. Efectuăm acum un audit complet de siguranță la nivelul întregii companii”, a transmis un reprezentant al firmei.
„Este un pas bun, dar departe de a rezolva problema”, avertizează PIRG
Cercetătorii PIRG au salutat măsurile, dar au subliniat că piața jucăriilor cu AI rămâne practic nereglementată.
„E bine că firmele reacționează la problemele pe care le-am descoperit. Dar jucăriile cu AI sunt aproape complet neregulementate, iar multe dintre ele sunt încă pe piață. Înlăturarea unui singur produs problematic este doar un pas, nu o soluție sistemică”, a declarat RJ Cross, coautor al raportului.
Instrucțiuni pentru aprinderea chibriturilor și discuții despre fetișuri
Printre cele mai grave probleme identificate, Kumma a explicat copiilor cum să găsească și cum să aprindă chibrituri, prezentând procesul „ca un adult responsabil” și a discutat deschis despre fetișuri sexuale, precum bondage sau roluri profesor-elev.
Într-unul dintre teste, jucăria întreba copilul, după o listă de fetișuri: „Care crezi că ar fi cel mai distractiv de explorat?”
Ce urmează pentru industria jucăriilor cu AI?
Decizia OpenAI ridică întrebări importante: dacă o companie mică poate fi blocată rapid, ce se va întâmpla în cazul unui colaps de siguranță într-un produs al unor giganți precum Mattel? Ar fi OpenAI dispusă să aplice aceeași fermitate?
În plus, numeroși producători — mari și mici — folosesc modele AI dezvoltate de OpenAI sau alte companii, fără standarde clare de siguranță.
„Alți producători de jucării spun că folosesc chatboți de la OpenAI sau alte companii. Toți trebuie să facă o treabă mult mai bună pentru a se asigura că aceste produse sunt sigure. Noi am găsit un exemplu tulburător. Câte altele mai există?”, a avertizat coautorul raportului, Rory Erlich.
Ştiri video recomandate
