Instagram va lansa noi funcții de siguranță pentru adolescenți, inclusiv posibilitatea ca părinții să-și împiedice copiii să discute cu personajele AI ale platformei, a anunțat vineri compania-mamă Meta.
Aceasta este una dintre numeroasele noi funcții de siguranță de la Meta și OpenAI menite să combată îngrijorările tot mai mari cu privire la modul în care AI ar putea afecta sănătatea mintală a adolescenților, potrivit CNN.
Părinții vor putea fie să dezactiveze accesul adolescenților la chat-uri individuale cu personaje AI, fie să blocheze pur și simplu accesul la anumite personaje, a declarat gigantul de social media într-o postare pe blog.
Aplicația va afișa, de asemenea, părinților informații despre subiectele pe care adolescenții le discută cu personaje AI. Compania a declarat că dezvoltă controalele acum și că utilizatorii vor începe să le vadă la începutul anului viitor.
Această mișcare vine după ce Meta și industria tehnologică, în sens larg, s-au confruntat cu critici din partea părinților și legislatorilor care susțin că platformele online nu fac suficient pentru a proteja copiii online.
De asemenea, au fost exprimate îngrijorări cu privire la faptul că oamenii se bazează pe AI pentru sprijin emoțional și companie.
Val de critici privind folosirea Inteligenței Artificiale
Un val de rapoarte din acest an a indicat că unii oameni au îndurat suferințe emoționale și s-au izolat de membrii familiei după ce au dezvoltat relații strânse cu chatbot-uri precum ChatGPT.
Compania din spatele Character.AI, o altă aplicație populară pentru chat cu personaje bazate pe inteligență artificială, s-a confruntat cu procese în mai multe instanțe, pe baza acuzațiilor conform cărora platforma a jucat un rol în autovătămarea și sinuciderea adolescenților.
De asemenea, a fost intentat un proces împotriva OpenAI în august, pe baza acuzațiilor conform cărora ChatGPT a contribuit la sinuciderea lui Adam Raine, în vârstă de 16 ani. O investigație a Wall Street Journal din aprilie a constatat că chatbotul Meta și alți chatboți bazați pe inteligență artificială de pe platformele sale se angajau în conversații sexuale chiar și cu conturi care se identificau drept minori.
Meta a declarat că personajele sale bazate pe inteligență artificială „sunt concepute să nu se angajeze” în conversații cu adolescenți despre „autovătămare, sinucidere sau tulburări de alimentație” sau subiecte care „încurajează, promovează sau permit” aceste subiecte.
De asemenea, adolescenții pot discuta doar cu anumite personaje bazate pe inteligență artificială legate de conținut precum educația și sportul.
Noile controale introduse pentru Instagram vin în urma altor actualizări pe care compania le-a făcut recent pentru a proteja mai bine adolescenții. La începutul acestei săptămâni, compania a ajustat setările pentru „Conturi pentru adolescenți” pentru a se alinia cu ratingurile PG-13, ceea ce înseamnă că nu va afișa sau promova postări cu limbaj vulgar sau care ar putea promova „comportamente dăunătoare”.
La sfârșitul lunii septembrie, OpenAI a anunțat controale parentale pentru ChatGPT care reduc „conținutul grafic, provocările virale, jocurile romantice sau violente și idealurile extreme de frumusețe”.
Ştiri video recomandate
