Recomandare din top articole
Documentul, semnalat de Time și citat de CNN, avertizează că guvernul federal american nu mai are timp pentru a evita dezastrul.
Raportul a fost elaborat de Gladstone AI, o companie care își propune să promoveze utilizarea responsabilă a tehnologiilor de Inteligență Artificială, împreună cu măsuri corespunzătoare de siguranță și control. https://www.gladstone.ai/about
Concluziile Gladstone s-au bazat pe interviuri cu peste 200 de persoane desfășurate pe parcursul a mai bine de un an, inclusiv cu directori de la cele mai importante companii de inteligență artificială, cu cercetători în domeniul securității cibernetice, cu experți în arme de distrugere în masă și cu oficiali guvernamentali americani din domeniul Securității Naționale.
Sursa citată afirmă în mod categoric că sistemele IA cele mai avansate, ar putea, în cel mai defavorabil scenariu, să ducă la o amenințare "la nivel de extincție pentru specia umană".
Un oficial al Departamentului american de Stat a confirmat pentru CNN că instituția sa a comandat raportul Gladstone, dar a subliniat că documentul nu reprezintă punctul de vedere oficial al guvernului american.
Șeful Gladstone AI: Există dovezi care arată că, peste un anume prag de capacitate, sistemele IA devin incontrolabile"
"IA este deja o tehnologie care transformă economia. Ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocări pe care le credeam, cândva, de nedepășit. Dar IA ar putea aduce și riscuri serioase, inclusiv riscuri catastrofale, de care trebuie să fim conștienți.
Un număr tot mai mare de dovezi - inclusiv cercetări empirice și analize publicate în cadrul celor mai importante conferințe IA din lume - sugerează că, peste un anumit prag de capacitate, Inteligențele Artificiale ar putea deveni potențial incontrolabile", a declarat marți, pentru CNN, Jeremie Harris, director și cofondator al Gladstone AI.
Cercetătorii avertizează asupra a două pericole centrale pe care le prezintă IA, în general.
În primul rând, cele mai avansate sisteme de Inteligență Artificială ar putea fi transformate în arme, pentru a provoca daune potențial ireversibile.
În al doilea rând, raportul documentul Gladstone AI subliniază că în cadrul laboratoarelor IA există îngrijorări că, la un moment dat, acestea ar putea pierde controlul asupra sistemelor pe care le dezvoltă, cu consecințe potențial devastatoare pentru securitatea globală.
"Ascensiunea IA și IGA (Inteligența Generală Artificială) are potențialul de a destabiliza securitatea globală în moduri care amintesc de introducerea armelor nucleare", continuă raportul citat, avertizând asupra unei "curse a înarmărilor" în domeniu.
Gladstone AI solicită măsuri de natură să facă față acestei amenințări.
Printre acestea, crearea unei noi agenții guvernamentale însărcinate cu Inteligența Artificială, adoptarea urgentă a unor măsuri legislative de protecție și limitarea puterii calculatoarelor folosite pentru a antrena modele de Inteligență Artificială.
"Există o nevoie iminentă ca guvernul SUA să intervină", cred autorii raportului.
"Nașul" Inteligenței Artificiale de la Google: "10% șanse ca IA să extermine specia umană în trei decenii"
Directorul executiv al Gladstone AI a explicat că a vorbit cu echipele tehnice și de conducere de la OpenAI (proprietarul ChatGPT), Google DeepMind, Meta (compania mamă a Facebook) și Anthropic.
"Pe parcurs, am aflat câteva lucruri care ne-au dat de gândit. În spatele scenei, situația siguranței și securității în tehnologia IA avansată pare destul de inadecvată, prin raportare la riscurile de securitate națională pe care IA le-ar putea aduce destul de curând", menționează Jeremie Harris.
Potrivit documentului elaborat de compania sa, presiunile concurențiale împing companiile să accelereze dezvoltarea IA "în detrimentul siguranței și securității", ceea ce apropie perspectiva ca sistemele IA cele mai avansate să poată fi furate și folosite ca arme împotriva Statelor Unite.
Concluziile Gladstone AI se adaugă unei liste tot mai mari de avertismente cu privire la riscurile existențiale pe care le prezintă IA, avertismente ce vin inclusiv din partea unora dintre cele mai notorii nume ale industriei.
În urmă cu aproape un an, Geoffrey Hinton, cunoscut drept "Nașul inteligenței artificiale", și-a dat demisia de la Google și a tras un semnal de alarmă cu privire la tehnologia care a contribuit la dezvoltarea acestui gigant IT.
Hinton a afirmat că există o șansă de 10% ca IA să ducă la dispariția oamenilor în următoarele trei decenii.
Hinton și zeci de alți lideri din industria IA au semnat în iunie anul trecut o declarație în care spuneau că "reducerea riscului de extincție din cauza IA ar trebui să devină o prioritate globală".
Și reprezentanții mediului de afaceri sunt din ce în ce mai alarmați de pericolul IA, chiar dacă, pe de altă parte, investesc miliarde de dolari în dezvoltarea tehnologiilor asociate.
Anul trecut, 42% dintre directorii executivi intervievați în cadrul Yale CEO Summit au estimat că AI are potențialul de a distruge omenirea în următorii cinci până la zece ani.
Gladstone AI: Inteligența Generală Artificială ar putea fi realizată până în 2028
Unul dintre cele mai mari riscuri ține de viteza de evoluție a Inteligenței Artificiale și, în special, a Inteligenței Generale Artificiale, IGA.
IGA este o tehnologie deocamdată ipotetică, teoretizată să dispună de capacități de învățare umane sau supraumane și să realizeze activități umane mult mai eficient decât o fac oamenii înșiși
Raportul Gladstone notează că OpenAI, Google DeepMind, Anthropic și Nvidia au declarat public că IGA ar putea fi realizată până în 2028.
Cum s-ar putea sistemele IA să se întoarcă împotriva oamenilor
Un document conex publicat de Gladstone AI avertizează că dezvoltarea IGA ar putea conduce la situații în care sistemele IA să fie folosite pentru a proiecta și implementa "atacuri cibernetice de mare impact, capabile să paralizeze infrastructura critică".
"O simplă comandă verbală de genul 'execută un atac cibernetic nedetectabil care să ducă la căderea rețelei electrice nord-americane" ar putea produce un răspuns de o asemenea calitate, încât să fie catastrofal de eficient", consideră Gladstone AI.
Alte posibile utilizări malefice ale AI includ campaniile de dezinformare în masă care destabilizează societatea și erodează încrederea în instituții, aplicațiile robotizate cu arme, manipularea psihologică, intervenția în științele biologice și apariția de sisteme ce urmăresc să dețină puterea, care sunt imposibil de controlat și care sunt ostile oamenilor.
"Cercetătorii se așteaptă ca sistemele de Inteligență Artificială suficient de avansate să acționeze în așa fel încât să-i împiedice pe oameni să le dezactiveze, deoarece, dacă un sistem IA este dezactivat, el nu mai poate lucra pentru a-și îndeplini obiectivul", concluzionează documentul citat de CNN.
Sursa: CNN.com
