Gavin Newsom, guvernatorul statului California, a semnat, luni, o lege prin care reglementează chatboții cu inteligență artificială, sfidând eforturile Casei Albe de a lăsa o astfel de tehnologie necontrolată, notează Techrunch.
Proiectul de lege reglementează chatboții însoțitori cu inteligență artificială, devenind primul stat din țară care solicită operatorilor de chatboți cu inteligență artificială să implementeze protocoale de siguranță pentru aceștia.
Ce prevede legea
Legea SB 243 a fost concepută pentru a proteja copiii și utilizatorii vulnerabili de unele dintre daunele asociate cu utilizarea chatbot-urilor companion bazate pe inteligență artificială.
Aceasta trage la răspundere legală companiile - de la laboratoare mari precum Meta și OpenAI până la startup-uri companion mai specializate, precum Character AI și Replika - dacă chatboții lor nu îndeplinesc standardele legii.
SB 243 va intra în vigoare la 1 ianuarie 2026 și impune companiilor să implementeze anumite funcții, cum ar fi verificarea vârstei și avertismente privind rețelele sociale și chatboții însoțitori.
Legea prevede, de asemenea, sancțiuni mai dure pentru cei care profită de pe urma deepfake-urilor ilegale, inclusiv până la 250.000 de dolari per infracțiune. Companiile trebuie, de asemenea, să stabilească protocoale pentru a aborda sinuciderea și autovătămarea, care vor fi partajate cu Departamentul de Sănătate Publică al statului, împreună cu statistici privind modul în care serviciul a furnizat utilizatorilor notificări de prevenire a centrelor de criză.
Sinucideri printre adolescenţii americani
SB 243 a fost introdusă în ianuarie de senatorii statului Steve Padilla și Josh Becker și a căpătat amploare după moartea adolescentului Adam Raine, care s-a sinucis după o lungă serie de conversații suicidare cu ChatGPT de la OpenAI.
Mai recent, o familie din Colorado a intentat un proces împotriva startup-ului de jocuri de rol Character AI după ce fiica lor de 13 ani s-a sinucis în urma unei serii de conversații problematice și sexualizate cu chatboții companiei.
În ultimul timp, companiile au ales inteligenţa artificială pentru munca "entry-level", în defavoarea tinerilor care își doresc o carieră.
„Tehnologiile emergente, precum chatbot-urile și rețelele sociale, pot inspira, educa și conecta - dar fără bariere reale, tehnologia poate, de asemenea, să exploateze, să inducă în eroare și să pună în pericol copiii noștri”, a declarat Newsom într-un comunicat, adăugând:
„Am văzut câteva exemple cu adevărat oribile și tragice de tineri afectați de tehnologia nereglementată și nu vom sta deoparte în timp ce companiile continuă fără limitele și responsabilitatea necesare. Putem continua să fim lideri în domeniul inteligenței artificiale și al tehnologiei, dar trebuie să o facem în mod responsabil - protejându-ne copiii la fiecare pas. Siguranța copiilor noștri nu este de vânzare.”
Până acum, Casa Albă a încercat să împiedice statele să-şi stabilească astfel de reglementări în privinţa AI.
Ştiri video recomandate
