O directoare OpenAI demisionează după acordul cu Pentagonul. Reclamă „utilizarea autonomă a tehnologiei letale fără autorizare umană”

Caitlin Kalinowski, responsabilă de dezvoltarea diviziei hardware a OpenAI, a anunțat că părăsește compania în urma controversatului acord încheiat cu Departamentul Apărării al Statelor Unite, scrie Tech Crunch.

Într-o postare pe rețelele sociale, Kalinowski a explicat că decizia nu a fost ușoară, însă a considerat că anumite principii sunt mai importante.

„Inteligența artificială are, fără îndoială, un rol important în securitatea națională. Totuși, supravegherea cetățenilor fără control judiciar și utilizarea autonomă a tehnologiei letale fără autorizare umană sunt probleme care ar fi trebuit analizate mult mai atent”, a scris aceasta.

Decizia sa, una de principiu

Kalinowski a subliniat că plecarea sa nu este îndreptată împotriva oamenilor din companie. Ea a spus că are „un respect profund” pentru CEO-ul Sam Altman și pentru echipa OpenAI, dar că decizia sa este una de principiu.

Într-o altă postare, publicată pe platforma X, ea a explicat că principala problemă a fost modul în care a fost anunțat acordul.

„Problema mea este că anunțul a fost făcut în grabă, fără ca regulile și limitele să fie clar definite. Sunt subiecte prea importante pentru a fi tratate în grabă”, a precizat Kalinowski.

Cum va fi folosită inteligența artificială în domeniul securității

Un purtător de cuvânt al OpenAI a confirmat pentru TechCrunch plecarea acesteia din companie.

Compania susține însă că parteneriatul cu Pentagonul a fost conceput astfel încât să permită utilizarea responsabilă a inteligenței artificiale în domeniul securității, menținând totodată anumite limite clare.

„Credem că acest acord oferă o cale realistă pentru utilizarea responsabilă a AI în domeniul securității naționale. Am stabilit limite clare: tehnologia noastră nu va fi folosită pentru supravegherea populației pe teritoriul SUA și nici pentru arme complet autonome”, se arată într-un comunicat al companiei.

Reprezentanții OpenAI au adăugat că înțeleg faptul că subiectul provoacă reacții puternice și au promis că vor continua dialogul cu angajații, autoritățile, organizațiile civile și comunitățile din întreaga lume.

Acordul include clauze care împiedică utilizarea AI în afara unor limite bine stabilite

Acordul dintre OpenAI și Pentagon a fost anunțat la puțin peste o săptămână după ce negocierile dintre Departamentul Apărării și compania Anthropic au eșuat. Anthropic a încercat să introducă în contract garanții care să împiedice folosirea tehnologiei sale pentru supraveghere internă în masă sau pentru arme complet autonome.

După blocarea discuțiilor, Pentagonul a catalogat Anthropic drept un risc pentru lanțul de aprovizionare. Compania a anunțat că va contesta decizia în instanță.

Între timp, giganții tehnologici Microsoft, Google și Amazon au precizat că vor continua să ofere modelul Claude al Anthropic clienților din afara sectorului de apărare.

Dezinstalările aplicației ChatGPT au crescut cu aproape 300%

În acest context, OpenAI a anunțat rapid propriul acord cu Pentagonul, care permite utilizarea tehnologiei sale în medii clasificate. Conducerea companiei a explicat că modelul de colaborare include nu doar clauze contractuale, ci și măsuri tehnice menite să împiedice utilizarea AI în moduri care ar încălca liniile roșii stabilite.

Cu toate acestea, controversa pare să fi afectat imaginea companiei în rândul unor utilizatori. Potrivit datelor recente, dezinstalările aplicației ChatGPT au crescut cu aproape 300%, în timp ce aplicația Claude a urcat rapid în topul descărcărilor din App Store.

La finalul săptămânii, Claude și ChatGPT ocupau primele două poziții în clasamentul aplicațiilor gratuite din App Store-ul american.