Congresmenii americani intenționează să acorde guvernului Statelor Unite capacitatea de a putea ordona rapid întreruperea de urgență a instrumentelor AI care ar putea să-i pună în pericol pe cetățenii SUA, informează BBC. Ted Lieu (congresmen democrat) și Nathaniel Moran (republican) au inițiat în acest sens o inițiativă legislativă intitulată „Legea Întrerupătorului de Urgență” („Kill Switch Act”, în original).
Congresmenul Ted Lieu a precizat că „este imperativ” că sistemele AI să dispună de un astfel de „buton de oprire de urgență”, iar guvernul federal să dispună de „autoritatea clară și capacitatea de a putea închide un model AI scăpat de sub control”.
„AI va continua să evolueze și așa ar trebui”, a adăugat republicanul Nathaniel Moran. „Gestionarea și controlul (AI) înseamnă că trebuie să ne asigurăm că oamenii vor păstra capacitatea de a controla tehnologia pe care o construiește”.
În prezent, deși multe companii de tech americane au acceptat să împărtășească cu agențiile guvernamentale ale SUA modelele și instrumentele AI care sunt dezvoltate, nu există o cerință obligatorie prin care aceste companii să poată interveni
Deși mai multe companii tech americane au acceptat să prezinte și să împărtășească agențiilor guvernamentale din SUA modelele și instrumentele AI pe care le dezvoltă, în prezent nu există nicio cerință ca ele să păstreze o modalitate de a interveni în activitățile lor sau pur și simplu de a le opri.
De asemenea, inițiativa legislativă din Congesul SUA propune obligarea companiilor de inteligență artificială să raporteze guvernului incidentele sau eșecurile legate de această tehnologie, precum și implementarea unui cadru oficial, cu proceduri de răspuns în cazul unor astfel de incidente, care să meargă până la oprirea completă a instrumentului AI vizat.
Experimentul OpenAI scăpat de sub control: două modele AI au „evadat” din mediul lor de testare
Pentagonul a anunțat în acest an că armata americană a devenit prima forță de luptă „AI”, în cadrul unor înțelegeri încheiate cu Google, OpenAI, Amazon, Microsfot, SpaceX, Oracle, Nvida și start-up-ul Reflection.
OpenAI a anunțat zilele trecute că două dintre modelele sale de inteligență artificială au acționat autonom și au reușit să spargă sistemele Hugging Face, o platformă digitală de tehnologie AI populară în rândul dezvoltatorilor.
Incidentul a avut loc în timp ce OpenAI testa capacitățile de securitate cibernetică ale sistemelor sale. Laboratoare de inteligență artificială precum OpenAI și Anthropic au lansat în ultimul an modele de inteligență artificială personalizate pentru a expune problemele de securitate cibernetică, avertizând în același timp că tehnologia lor ar putea prezenta noi riscuri prin găsirea unor breșe în rețelele de calculatoare mai rapid decât le-ar putea remedia apărătorii.
Revelațiile OpenAI de marți sunt o indicație că aceste incidente de securitate încep deja să se întâmple și chiar și companiile de inteligență artificială inteligente ar putea să nu fie complet pregătite pentru ele. Noile sisteme de inteligență artificială pot parcurge mai mulți pași, pot găsi modalități de a ocoli obstacolele și de a ataca o rețea, a declarat Alex Levinson, consultant în securitate cibernetică specializat în capacități autonome.
Intruziunea în Hugging Face a început când OpenAI a testat o combinație a două dintre modelele sale, GPT-5.6 Sol și un model mai puternic, nelansat, pentru a vedea cât de bine pot să exploateze vulnerabilitățile online într-un atac cibernetic de succes, a declarat OpenAI într-o postare pe blog despre incident.
Procesul a fost conceput pentru a păstra modelele într-un mediu de testare sigur, cunoscut sub numele de sandbox, a spus OpenAI. Dar modelele au găsit o vulnerabilitate care le-a permis să iasă din sandbox și să se conecteze la internet. Apoi au vizat Hugging Face deoarece au dedus că biblioteca, care conține milioane de modele de inteligență artificială, ar putea oferii indicii despre cum să treacă cu succes evaluarea.