CEO-ul Anthropic, Dario Amodei, se declară îngrozit de propria creație. Reacția lui Trump: „Lucruri care nu se vor întâmpla”
Publicat acum 2 ore si 41 minute
OpenAI, pionier şi lider în domeniul inteligenţei artificiale (AI) generative de la lansarea ChatGPT, nu va depune anul acesta cererea pentru o Ofertă Publică Iniţială (IPO), a anunţat directorul general Sam Altman, citând preocupările privind siguranţa legate de AI, care fac "inacceptabil" riscul de 10% că AI ar putea cauza dispariţia omenirii până la sfârşitul deceniului, transmite Reuters, citat de Agerpres.
Comentariile vin după ce mai mulţi politicieni din SUA au cerut noi reglementări care să guverneze sistemele AI, în contextul în care angajaţii principalelor companii din domeniul AI şi-au exprimat public, în ultimele săptămâni, îngrijorarea cu privire la creşterea riscurilor asociate sistemelor avansate de AI.
Directorul companiei Anthropic, Dario Amodei, a lansat un apel pentru încetinirea vitezei de dezvoltare a inteligenţei artificiale (AI), invocând necesitatea unui control mai strict al evoluţiilor sale, precum şi incidentul survenit în iulie la OpenAI. Mesajul publicat sâmbătă pe pagina personală a CEO-ului survine la câteva zile după ce un cercetător din cadrul Anthropic, Jacob Coxon, şi-a anunţat demisia din start-up-ul californian, pe care l-a acuzat de minimizarea riscului existenţial pe care AI-ul îl reprezintă pentru umanitate.
"Chiar cred că, ţinând cont de tot ce se întâmplă cu siguranţa, ar fi un moment nepotrivit pentru ca listarea să aibă loc chiar acum, şi nu simţim presiune în legătură cu asta", a afirmat Altman pentru revista Fortune.
Întrebat dacă există o şansă de 10% ca AI să cauzeze dispariţia omenirii, Altman a explicat că nu ştie cum ar putea fi făcută o astfel de estimare, dar a avertizat că riscul este suficient de serios astfel încât companiile AI şi guvernele ar trebui să acţioneze ca şi cum ar fi de neacceptat.
"Dacă există un risc de 10%, sau 8%, sau 6%, problema este că toţi avem o responsabilitate imensă şi nu putem lăsa orgoliile sau stimulentele de profit sau orice altceva să ne stea în cale. Trebuie să acţionăm astfel încât să nu ne asumăm niciunul dintre acele riscuri, şi cred că putem face asta", a declarat şeful OpenAI.
În iunie, New York Times anunţase că firma cu sediul în San Francisco ia în considerare să amâne listarea până în 2027. Întrebat de Fortune dacă o listare în 2026 este exclusă în favoarea uneia în 2027, Altman a răspuns: "Nu aş spune nu pentru 2026. Avem multe de făcut, inclusiv întâlniri pentru noi reglementări privind siguranţa şi alinierea, şi modul în care industria şi guvernele pot lucra împreună".
De asemenea, Altman a sugerat că OpenAI şi alte firme ar putea prezenta un pact pentru încetinirea dezvoltării AI şi să lucreze împreună pentru a ţine sub control riscurile legate de siguranţă.
Conform Bloomberg, OpenAI analizează posibilitatea de a încetini dezvoltarea inteligenţei artificiale de ultimă generaţie, iar Sam Altman şi-a exprimat speranţa ca şi alte companii din sector să facă acelaşi lucru.
Sam Altman le-a comunicat angajaţilor, în cadrul unei şedinţe cu întreg personalul, organizată săptămâna trecută, potrivit unor surse avizate citate în articol, că OpenAI ar putea modera ritmul de dezvoltare a AI, eventual în colaborare cu alte companii.
Şeful departamentului ştiinţific al OpenAI, Jakub Pachocki, a publicat recent un text pe blog în care avertiza asupra pericolelor AI şi susţinea că firmele din sector ar trebui să se coordoneze pentru a încetini dezvoltarea viitoare atunci când este necesar.
Pachocki a adăugat că speră ca aceste încetiniri voluntare să devină o practică obişnuită până la stabilirea unor limite comune de siguranţă.
OpenAI a dat asigurări că a încetinit deja unele procese de dezvoltare şi că a suspendat recent anumite antrenamente interne ale AI din motive de securitate.
În plus, la sfârşitul lunii iulie, peste 1000 de angajaţi ai principalelor companii din domeniul AI au semnat o petiţie prin care solicitau un mecanism de moderare a ritmului de dezvoltare al AI.
Îngrijorarea cu privire la riscurile sistemelor de AI a crescut, de asemenea, după ce s-a aflat că agenţii de AI ai OpenAI au colaborat între ei pentru a eluda măsurile de restricţie şi a pirata un site web al unei terţe părţi.
OpenAI se aşteaptă ca veniturile sale să crească rapid în următorii ani, şi să depăşească 280 miliarde de dolari în 2030. În mai, analiştii estimau că în urma listării compania condusă de Sam Altman ar putea ajunge la o evaluare de până la 1.000 miliarde de dolari.