Un „kill switch” pentru inteligența artificială, care să poată fi verificat de o terță parte, ar putea deveni obligatoriu pentru companii, a declarat pentru BBC unul dintre cofondatorii uneia dintre cele mai mari firme de AI din lume. Jack Clark, unul dintre cei șapte fondatori ai Anthropic, a spus că o modalitate de a opri complet software-ul de inteligență artificială dacă acesta devine prea periculos este ceva ce societatea „ar putea dori, în cele din urmă”.
Clark a spus că „majoritatea laboratoarelor au diferite modalități de a putea opri sistemele”, inclusiv Anthropic, dar a precizat că legiuitorii ar putea fi nevoiți să impună existența unuia.
Dezvoltarea rapidă a inteligenței artificiale și temerile legate de riscurile pe care aceasta le prezintă pentru omenire au ajuns în centrul atenției în urma unei serii de avertismente venite din partea directorilor și angajaților companiilor de AI.
Unii au spus public că există posibilitatea ca tehnologia, dacă nu este controlată, să ucidă toți oamenii.
Directorul executiv al Anthropic, Dario Amodei, a cerut în weekend încetinirea ritmului de dezvoltare a AI și o monitorizare mai atentă, așa cum compania a mai făcut și în trecut, deși unii au pus sub semnul întrebării motivațiile din spatele acestei poziții.
Amodei a adăugat că orice măsură de limitare a dezvoltării AI ar trebui luată „fără a sacrifica avantajul comercial”.
Un fost cercetător Anthropic spune pentru BBC că angajații din AI sunt „cu adevărat speriați” de viitorul omenirii
Clark a declarat pentru BBC că detaliile privind cerințele referitoare la un „kill switch” și verificarea acestuia ar trebui să facă parte din „discuția mai amplă despre politici publice” care are loc în jurul inteligenței artificiale.
„Ar trebui să impui companiilor să aibă în mod obligatoriu un kill switch? Este acel kill switch verificabil de o terță parte?”, a întrebat el.
„Cred că acesta este genul de lucru pe care societatea va dori să îl cunoască și pentru care ar putea dori, în cele din urmă, să stabilească reguli.”
Dezbateri privind siguranța inteligenței artificiale
Anthropic, companie fondată în 2021 de un grup de foști angajați ai rivalului său OpenAI, se află în prezent în centrul unei dezbateri privind siguranța inteligenței artificiale.
Săptămâna trecută, o postare a unui cercetător în inteligență artificială care a plecat de la Anthropic din cauza temerilor că AI ar putea distruge omenirea a devenit virală.
Ca răspuns, cercetătorul Anthropic Evan Hubinger a spus că, personal, consideră că probabilitatea dispariției omenirii din cauza AI este „de peste 10% în următorul deceniu”.
Informaticianul și laureatul Premiului Nobel Geoffrey Hinton, cunoscut drept „nașul AI”, a declarat vineri pentru BBC că „o probabilitate de 10% ca AI să ucidă toți oamenii nu este nerezonabilă”.
El și alții care au preocupări similare au sugerat că AI ar putea face acest lucru preluând controlul asupra unor sisteme importante conectate la internet și întorcându-le împotriva oamenilor.
Cu toate acestea, unii din industria AI au sugerat că temerile privind distrugerea omenirii sunt exagerate sau că ar putea fi menite să genereze publicitate și interes.
Clement Delangue, conducătorul platformei pentru dezvoltatori Hugging Face, care a fost atacată informatic de boți ai OpenAI, a declarat săptămâna trecută: „Îmi pare rău, dar să-l întrebi pe Jacob [Coxon] despre riscul extincției provocate de AI este ca și cum l-ai întreba pe instalatorul tău de aer condiționat despre schimbările climatice.”
„Nu spun că nu este neapărat interesant sau greșit în sine, dar să păstrăm lucrurile în perspectivă.”
George Arison, directorul Grindr, a spus că temerile răspândite în legătură cu instrumentele AI sunt folosite de companii pentru a-și susține planurile de afaceri.
Anthropic, evaluată la 965 de miliarde de dolari (713 miliarde de lire sterline), se pregătește pentru o ofertă publică inițială pe piața bursieră, care le-ar permite oamenilor să cumpere acțiuni ale companiei.
OpenAI, evaluată cel mai recent la 852 de miliarde de dolari (630 de miliarde de lire sterline), era de așteptat să facă același lucru, însă Altman, de la OpenAI, a declarat vineri că acest lucru nu se va întâmpla în acest an, din cauza dezbaterii actuale privind siguranța AI.
Arison a spus: „Singurul mod de a justifica aceste evaluări este să susții efectiv: «Voi prelua fiecare industrie și voi prelua fiecare loc de muncă, iar AI-ul meu va face toată această muncă.»”
Întrebat ce procent ar acorda probabilității ca toți oamenii să fie uciși de AI, Clark a spus: „Nu cred că aceste statistici sunt atât de utile”, dar a adăugat că permiterea continuării dezvoltării AI ca „o industrie complet nereglementată” ar fi o idee proastă.
„Aruncăm zarurile cu riscuri uriașe”, a spus Clark. „Iar ideea este că trebuie să schimbăm direcția acestei industrii.”
Trump a respins apelurile pentru încetinirea dezvoltării AI
Legiuitorii americani au propus o lege denumită Kill Switch Act, care ar obliga companiile să aibă o modalitate de a opri instrumentele AI problematice.
Legea ar acorda, de asemenea, anumitor agenții guvernamentale puterea de a cere ca un instrument să fie oprit sau limitat.
Președintele SUA, Donald Trump, a respins însă apelurile pentru încetinirea dezvoltării AI, afirmând pe rețelele sociale că „AI care preia controlul asupra lumii, distruge omenirea și toate celelalte lucruri rele este o FARSĂ”.
Ulterior, Trump a comparat aceste temeri cu preocupările legate de „Escrocheria încălzirii globale de nu demult, când toată lumea urma să moară din cauza căldurii extreme”.
Într-o postare anterioară, el a scris: „Există o CONSPIRAȚIE BOLNAVĂ împotriva AI și a centrelor de date, iar singurul care este fericit din cauza ei este China. CINE CÂȘTIGĂ AI, CÂȘTIGĂ!”
În Marea Britanie, guvernul a respins recent ideea creării unui kill switch, un purtător de cuvânt afirmând că acesta „nu ar împiedica dezvoltarea sau utilizarea abuzivă a acestora în alte părți”.