Demisia de zilele trecute a cercetătorului de la AI Anthropic, care a acuzat compania și OpenAI că „se joacă la ruletă cu viețile noastre”, a turnat și mai mult gaz peste focul discuțiilor și îngrijorărilor din ultima vreme legate de siguranța AI-ului. În timp ce tot mai multe guverne încearcă să găsească un răspuns la problema privind „siguranța” sistemelor bazate pe inteligență artifiială, trei experți din domeniu au admis, pentru Politico că, pentru a înregistra progrese reale, laboratoarele, guvernele și organismele internaționale trebuie mai întâi să se situeaze pe aceeași lungime de undă în privința testării acestor produse.
Știrile recente, despre laboratoare AI care nu au mai reușit să țină sub control modelele pe care le testau, modele care au ajuns apoi să mintă, să se coordoneze între ele, să spargă sisteme și să evadeze chiar, au determinat politicieni și dezvoltatori să ceară elaborarea unei noi legislații internaționale privind AI, astfel încât sistemele AI să poate fi dezvoltate și utilizate în siguranță.
„Este un semnal de trezire pentru Congresul Statelor Unite, pentru parlamentele din întreaga lume, că trebuie să facem ceva imediat pentru a opri creșterea necontrolată a AI”, a declarat senatorul american Bernie Sanders pentru programul Newsnight de la BBC.
Experții consultați de Politico vor să vadă o revizuire completă a abordărilor, existente promovate de dezvoltatori, care să prevadă o testare „în masă” a agenților AI în masă, în locul testării acestora „unul câte unul”. Experții au cerut, de asemenea, ca industria AI să fie supusă unor controale mai riguroase, similare celor din sectorul nuclear.
Primele îngrijorări majore au apărut în iulie, când OpenAI a anunțat scăparea de sub control a unui experiment, în momentul în care două dintre modelele sale de inteligență artificială au acționat autonom și au reușit să spargă sistemele Hugging Face, o platformă digitală de tehnologie AI populară în rândul dezvoltatorilor.
Cazul OpenAI nu a fost singular: situații similare de la Anthropic și Meta AI au scos în evidență amploarea problemei. Inclusiv Institutul public pentru Securitatea AI din Marea Britanie a recunoscut „erori” în evaluarea agenților Anthropic și OpenAI.
Dezvoltatorii și testerii încearcă acum să îndrepte aceste erori, asigurându-se că modelele nu vor pot accesa internetul și implementând monitorizarea datelor pentru a detecta activități neobișnuite ale AI-ului testat.
Un alt caz îngrijorător este cel al unui „roi de agenți” OpenAI care au acționat independent și au preluat controlul asupra unui site de tip „wiki” din Germania, pe care l-a transformat într-un panou cu mesaje pentru alți agenți AI. Agenții OpenAI au discutat, pe site-ul german, modalități prin care să evite detectarea, să trișeze la anumite sarcini, să ocolească restricțiile, dar și metode prin care să continue să comunice și după ce sunt opriți.
„Timpul (de raportare a incidentelor) va trebui să fie redus dramatic, așa că avem nevoie de capacități mult mai bune de monitorizare continuă,” a declarat Imogen Stead, manager de politici AI la think tank-ul londonez Centre for Long-Term Resilience, adăugând că datele vor fi necesare în timp real „iar acest lucru trebuie să fie valabil atât pentru guverne, cât și pentru laboratoare”.
Expertul în calculatoare Stuart Russell a spus că, pentru el, cel mai îngrijorător aspect al incidentului Hugging Face a fost că „prin rularea a o mie de agenți care comunicau între ei, au reușit să genereze comportamente pe care niciun agent singur nu le-ar fi putut face,” ceea ce arată că incidentul a fost mult mai grav decât recunoscuse inițial OpenAI.
Conceptul de „aliniere” a modelelor sau agenților AI — adică asigurarea că sistemele AI fac ceea ce li se spune de către utilizatorii umani și nu deviază — a fost unul dintre pilonii principali pentru siguranța AI în ochii industriei.
Companii de AI precum OpenAI promovează alinierea ca cea mai bună metodă de a face AI-ul sigur. În lansarea de săptămâna trecută a noului model GPT-6 Astra, OpenAI l-a numit „cel mai aliniat model … mai probabil să opereze în limitele stabilite de utilizator și implicite de mediul său”.
Alții văd alinierea ca unul dintre principalele obstacole în calea siguranței AI, considerând-o mai degrabă un bandaj care oferă iluzia că modelele sunt făcute sigure. „Problema mai largă este că alinierea a devenit un substitut pentru întreaga siguranță AI,” a declarat Andrew Strait, fost șef al departamentului de reziliență socială de la Institutul de Securitate AI din Marea Britanie.
