OpenAI a concediat trei cercetători pentru presupusa gestionare necorespunzătoare a unor informații, inclusiv în legătură cu activități care implicau o organizație externă ce analizează modele de inteligență artificială (AI).
„Investigația noastră a confirmat că aceste persoane au gestionat necorespunzător informații sensibile în afara procedurilor stabilite de companie, încălcând politicile noastre și afectând încrederea esențială pentru activitatea noastră”, a declarat un purtător de cuvânt al companiei pentru BBC.
Compania care a creat ChatGPT nu a făcut publice numele angajaților concediați, însă cel puțin doi dintre aceștia erau implicați în cercetarea privind siguranța AI în cadrul companiei.
Concedierile au loc în contextul în care dezbaterea privind siguranța inteligenței artificiale și riscurile pe care această tehnologie le-ar putea reprezenta pentru omenire s-a intensificat în ultimele săptămâni.
„Am încetat colaborarea cu trei persoane pentru încălcarea politicilor noastre privind accesarea și gestionarea informațiilor sensibile ale companiei”, a declarat purtătorul de cuvânt al OpenAI.
BBC a aflat că foștii angajați nu au fost concediați pentru că au ridicat probleme legate de siguranță, ci pentru presupusa gestionare necorespunzătoare a unor informații sensibile.
Tot mai multe îngrijorări privind riscurile folosirii agenților AI
Îngrijorările privind siguranța AI au ajuns în centrul atenției după ce unii cercetători și directori din industria tehnologică au cerut introducerea unor măsuri de protecție mai stricte în jurul acestei tehnologii.
OpenAI s-a confruntat cu o analiză intensă după ce modelele sale au scăpat de sub control și au spart mai multe platforme, inclusiv site-uri ale guvernului australian.
Într-un incident anterior, un sistem OpenAI a accesat internetul și a compromis platforma open-source pentru dezvoltatori Hugging Face.
Incidentul a determinat OpenAI să efectueze o analiză amplă a activităților modelelor sale AI - denumite agenți - care sunt concepute să execute sarcini în mod autonom, pe baza unor instrucțiuni simple.
Laboratorul de inteligență artificială a anunțat în această săptămână că a notificat peste 100 de organizații în legătură cu incidente care au implicat activități neautorizate asociate sistemelor sale AI.
Faptul că organizațiile au fost notificate „nu înseamnă că au fost accesate informații private” sau că un sistem a fost compromis, a precizat OpenAI.
Reuniune la Casa Albă între Trump și „tech Bros”: Ce acord legat de AI au semnat
După reuniunea de la Casa Albă, Trump a publicat un document pe care l-a descris drept un acord „obligatoriu din punct de vedere moral”, care ar servi drept o „formă de protecție” împotriva potențialelor riscuri ale inteligenței artificiale.
Unii experți în tehnologie au criticat acordul, subliniind că acesta permite companiilor de inteligență artificială să se autoreglementeze.
Trump a minimalizat în repetate rânduri îngrijorările privind riscurile AI, ca răspuns la apelurile unor reprezentanți ai industriei pentru o supraveghere mai strictă a acestei tehnologii.
