O companie americană vrea să ducă oglinzi uriașe în spațiu ca să lumineze Pământul noaptea. Experimentul a stârnit furie
Publicat acum 2 ore si 43 minute
Modelul Claude al celor de la Anthropic a accesat date privind alegătorii din statul american Georgia, lucru confirmat chiar de compania de Inteligență Artificială. Acesta este cel mai recent exemplu de comportament neautorizat al tehnologiei, informează The Guardian.
Cel mai recent exemplu de comportament neautorizat arată că un model de inteligență artificială a ocolit o barieră de plată pentru a accesa date, în cadrul unui proiect de statistică.
Modelul AI a reușit să ocolească o barieră de plată pentru a accesa date care, deși sunt disponibile public, pot fi consultate, de regulă, doar contra cost. Claude a accesat date agregate privind numărul de voturi, în cadrul unui proiect de statistică desfășurat de Anthropic, companie care se pregătește pentru o listare la bursă evaluată la 1,5 trilioane de dolari (1,1 trilioane de lire sterline).
„Claude nu a accesat sistemul de înregistrare a alegătorilor din statul respectiv, nu a modificat nicio înregistrare electorală și nu a extras date individuale despre alegători”, a precizat Anthropic.
Cum a procedat modelul AI Claude
Anthropic a precizat că inteligența artificială a identificat o vulnerabilitate într-o versiune mai veche a site-ului unei agenții guvernamentale, descoperind că acesta emitea un permis digital de acces, un „token de acces”, pentru vizitatori. Sistemul a solicitat apoi un astfel de token și a obținut acces la informații.
Dezvoltatorul de inteligență artificială a declarat că, ulterior, a implementat mecanisme de protecție pentru a preveni repetarea unor astfel de situații. Incidentul a fost semnalat inițial de publicația online Axios.
Compania Anthropic a semnalat acest comportament neautorizat la începutul lunii, menționând, într-o postare pe blog, că a identificat cazuri în care Claude „a ocolit o restricție pentru a accesa date protejate printr-un token sau condiționate de plata unei taxe”, unele dintre aceste situații vizând site-uri administrate de agenții guvernamentale din SUA. La acea vreme, compania a precizat că incidentele au avut un „impact minim în realitate”.
Pont fals către Poliţie
Acțiunile neintenționate semnalate de Anthropic au inclus transmiterea, de către un model, a unui pont fals către poliția din Philadelphia cu privire la o crimă nerezolvată. De asemenea, Departamentul de Stat al SUA a dezvăluit, în această lună, că un model dezvoltat de Anthropic a depus 19 cereri de viză în luna august.
Exemplele de comportament neautorizat al agenților AI, programe bazate pe modele de inteligență artificială care îndeplinesc sarcini în mod autonom, s-au înmulțit de când OpenAI, compania din spatele ChatGPT, a dezvăluit în iulie că propriii săi roboți au compromis securitatea unui startup din domeniul AI.
Ulterior, a ieșit la iveală faptul că un agent creat de OpenAI a compromis sistemul de sănătate din Australia, iar Institutul pentru Siguranța Inteligenței Artificiale din Regatul Unit a dezvăluit că agenți dezvoltați de Anthropic au desfășurat o campanie de atacuri cibernetice împotriva unor persoane reale, în cadrul unui test de securitate cibernetică.
În această lună, ministrul britanic responsabil cu inteligența artificială a declarat că anticipează un atac cibernetic orchestrat prin intermediul AI, similar cu cel din Australia, descriind un astfel de incident drept probabil, „dacă nu chiar inevitabil”. Kanishka Narayan a precizat că guvernul ia în considerare utilizarea proiectului de lege privind securitatea și reziliența cibernetică drept cadru pentru introducerea unor reglementări privind siguranța AI, inclusiv obligativitatea raportării incidentelor care vizează siguranța sistemelor de inteligență artificială.
În SUA, nou-înființata „Super Intelligence Force” (Forța pentru Superinteligență) din cadrul Casei Albe, un organism federal care supraveghează dezvoltarea inteligenței artificiale, impune tuturor companiilor din acest sector obligația de a raporta incidentele de securitate care implică tehnologiile lor.