Autoritățile de reglementare din Europa au fost excluse din procesul de lansare a unui nou model puternic de inteligență artificială de către firma americană Anthropic, potrivit Politico.
Săptămâna trecută, Anthropic a anunțat că limitează lansarea celui mai recent model al său, Mythos, la zeci de parteneri tehnologici pentru a le permite să actualizeze sistemele, deoarece modelul ar fi mai performant decât majoritatea oamenilor în identificarea și exploatarea vulnerabilităților tehnologice. Decizia a trimis unde de șoc în comunitatea globală de inteligență artificială și cibernetică, pe fondul îngrijorărilor că ar putea permite breșe de securitate cibernetică la scară largă.
Anthropic a selectat parteneri și organizații de încredere pentru acordarea accesului: a selectat personal 12 companii de tehnologie - toate cu sediul în SUA - inclusiv Apple, Microsoft și Amazon ca fiind cel mai apropiat cerc al său. A declarat că a acordat acces altor 40 de organizații, dar nu le-a numit, adăugând că a fost în „discuții în curs cu oficiali ai guvernului SUA” despre model.
În Europa, doar agenția germană a declarat că a intrat în discuții cu Anthropic despre Mythos și că nu a putut încă testa modelul. Mai multe instituții guvernamentale din Europa au sugerat că au obținut doar acces fragmentar.
Acest lucru contrastează puternic cu Marea Britanie, unde ministrul digitalizării, Kanishka Narayan, a confirmat vineri că Institutul de Securitate AI din Marea Britanie a testat recent Mythos și „a luat deja măsuri pe baza constatărilor noastre”. Institutul și-a publicat evaluarea luni.
Potrivit lui Daniel Privitera, fondatorul organizației non-profit KIRA, cu sediul la Berlin, „Mythos ne oferă o mostră timpurie a cât de crucial va fi accesul la capabilitățile AI de frontieră în anii următori... Europa nu are în prezent un plan pentru a asigura acest acces.”
Lipsa unui sistem global pentru gestionarea AI
Diviziunile sunt, de asemenea, o reamintire puternică a faptului că lumea nu a reușit să stabilească un sistem global pentru a aborda riscurile AI, în ciuda nenumăratelor avertismente ale specialiștilor că AI va avea repercusiuni grave asupra economiei și pieței muncii - și ar putea chiar să distrugă omenirea.
Yoshua Bengio, de la Universitatea din Montréal și unul dintre cei trei părinți ai inteligenței artificiale, a declarat pentru Politico că este „profund îngrijorător” faptul că depinde de companiile de tehnologie - și nu de autoritățile de reglementare - să decidă cum să gestioneze riscurile. Acest lucru a arătat cât de „esențial” a fost să se stabilească modalități prin care guvernele sau terții să efectueze verificări ale tehnologiei „pentru a proteja publicul”, a adăugat el.
Pentru Europa continentală, evenimentele au scos la iveală o lipsă de influență asupra companiilor americane care conduc dezvoltarea inteligenței artificiale și au afectat identitatea UE ca super-reglementator al tehnologiei.
Job Holzhauer, purtător de cuvânt al agenției olandeze de securitate cibernetică, a declarat că „impactul real al vulnerabilităților descoperite este dificil de verificat fără detalii tehnice”.
O întrebare „presantă” este dacă instrumente „de o putere atât de extraordinară”, precum Mythos, vor fi în viitor pe piața liberă, a declarat Claudia Plattner, șefa departamentului de securitate cibernetică din Germania, care conduce agenția națională de securitate cibernetică BSI.
„Această întrebare, la rândul ei, are implicații profunde pentru securitatea și suveranitatea națională și europeană”, a declarat Plattner.
Dialogul Comisiei Europene cu Anthropic
Plattner a declarat că agenția sa, BSI, este în „dialog activ” cu Anthropic și că, deși BSI nu a testat încă direct instrumentul, conversațiile pe care le-a avut cu dezvoltatorii i-au oferit „o perspectivă semnificativă” asupra modului în care funcționează. Un purtător de cuvânt a declarat că agenția a fost în contact cu Anthropic cu privire la noul model cu câteva săptămâni înainte de anunț.
Oficiul pentru Inteligență Artificială al Comisiei are un dialog cu Anthropic în temeiul codului de practică al UE care ajută compania să respecte cerințele Legii privind Inteligența Artificială a blocului comunitar. Însă purtătorii de cuvânt ai Comisiei Europene nu au comentat dacă noul model a făcut parte din aceste discuții și dacă biroul a avut acces.
Când a anunțat Mythos, Anthropic a declarat că modelul demonstrează că instrumentele bazate pe AI au ajuns la un punct în care pot „depăși toți oamenii, cu excepția celor mai pricepuți” în detectarea și exploatarea defectelor cibernetice. Acest lucru face ca instrumentul să fie un instrument defensiv puternic, dar și o armă periculoasă în mâinile hackerilor rău intenționați.
Pentru că modelul nu a fost încă lansat public pentru testare, nu se cunosc încă prea multe detalii despre modul în care funcționează sau despre tipurile de vulnerabilități pe care le poate identifica cel mai eficient.
Ştiri video recomandate
