Regele Charles ale III-lea al Marii Britanii i-a avertizat joi pe liderii din domeniul inteligenţei artificiale (AI) cu privire la "pericolele existenţiale" ce s-ar putea manifesta dacă această tehnologie ajunge pe mâini greşite, spunând că sunt necesare măsuri de siguranţă înainte de a fi prea târziu, notează Agerpres.
Regele Charles i-a găzduit în Scoţia pe fondatorii Nvidia, companie producătoare de cipuri şi fondatorii laboratorului de cercetare AI Google DeepMind, împreună cu lideri ai companiilor furnizoare de AI OpenAI şi Anthropic, pe măsură ce creşte îngrijorarea că eforturile privind siguranţa acestei tehnologii sunt lăsate mult în urmă de ritmul accelerat de dezvoltare.
În ultimele săptămâni, dezbaterea s-a concentrat asupra autoreglementării industriei AI, atrăgând intervenţii din partea unor personalităţi precum Papa Leon al XIV-lea, regele Charles şi preşedintele SUA Donald Trump.
Regele Charles a spus că inteligenţa artificială are potenţialul de a îmbunătăţi şi salva vieţi, în special în ştiinţele vieţii şi medicină. Dar creatorii săi avertizează din ce în ce mai mult că ar putea dezvolta capacităţi mai întunecate, "poate chiar să ia vieţi", a spus el.
"Pare să existe o urgenţă în a lua în considerare în mod adecvat pericolele existenţiale ale unor astfel de tehnologii care ajung pe mâini greşite şi sunt utilizate în moduri potenţial catastrofale", le-a transmis el liderilor pe care i-a invitat la Dumfries House.
"Cu siguranţă avem nevoie de suficiente mijloace de control înainte de a fi prea târziu", a mai susţinut el.
Printre invitaţi s-au numărat fondatorul şi directorul executiv al Nvidia, Jensen Huang, fondatorul şi preşedintele Google DeepMind - Demis Hassabis, directorul financiar al OpenAI, Sarah Friar, directorul pentru afaceri globale al Anthropic, Tino Cuellar, şi ministrul britanic pentru inteligenţă artificială - Kanishka Narayan.
Paolo Benanti, consilier al Papei, care a îndemnat guvernele să încetinească dezvoltarea AI, a participat şi el.
AI poate duce la dispariţia umanităţii?
Dezbaterea privind AI a fost reaprinsă când doi cercetători de la Anthropic au avertizat că progresele sale rapide ar putea duce la dispariţia umanităţii într-un viitor nu prea îndepărtat.
Firmele de AI au raportat, de asemenea, că modelele lor scapă de constrângerile de testare pentru a accesa reţele externe.
Jensen Huang a spus că AI trebuie construită cu "optimism responsabil", iar această responsabilitate aparţine chiar dezvoltatorilor. El a spus că firmele trebuie să devină mult mai riguroase în a se asigura că produsele lor sunt complete înainte de a le lansa.
"Dacă nu este gata, pur şi simplu amânaţi-l (...) Ar trebui să mergeţi cât de repede puteţi, dar nu mai repede de atât", a subliniat el.
Directorul executiv al Anthropic, Dario Amodei, a îndemnat, de asemenea, firmele să încetinească ritmul dezvoltării AI. Apelurile sale au declanşat o dezbatere internaţională cu privire la pericolul ca unii directori din domeniu să acţioneze motivaţi de obiective personale, cum ar fi stabilirea unor reguli care să-i menţină la conducerea firmelor lor, să prevină reacţii negative mai ample din partea guvernelor sau pur şi simplu să încetinească cheltuirea ameţitoare a fondurilor investite în această tehnologie.
Narayan, ministrul britanic pentru AI, a declarat că discuţiile s-au concentrat pe responsabilităţile companiilor de a se asigura că vor construi o tehnologie AI în interesul oamenilor.
"În loc să fie un eveniment singular, întâlnirea a fost una dintr-o serie de conversaţii despre rolul pe care Marea Britanie l-ar putea juca în dezvoltarea responsabilă a inteligenţei artificiale", a spus el.
"Avem unele dintre cele mai bune capacităţi în testarea, înţelegerea riscurilor şi apoi atenuarea acestora", a adăugat el.
Întâlnirea din Scoţia a evidenţiat modul în care Charles, mai întâi ca Prinţ de Wales şi acum ca rege, şi-a folosit poziţia pentru a organiza discuţii pe o serie de probleme globale, mai susţine Reuters.