Șeful OpenAI, mintea din spatele ChatGPT, a publicat un anunț pentru un loc de muncă plătit cu 555.000 de dolari pe an, în jur de 46.000 de dolari pe lună. Descrierea postului este însă atât de provocatoare și necesită niște abilități de nișă într-un domeniu încă în dezvoltare încât și Superman s-ar gândi de două ori înainte să aplice, scrie The Guardian.
Titlul postului: „Director de pregătire”. Misiunea: aproape imposibilă.
Un job aproape imposibil
Șeful „de pregătire” de la OpenAI va fi direct responsabil pentru apărarea împotriva riscurilor, generate de inteligențele artificiale din ce în ce mai puternice, asupra sănătății mintale a oamenilor, securității cibernetice și armelor biologice. Este doar vârful aisbergului. Tot candidatul selectat va trebuie să facă pregătiri și pentru eventualitatea în care AI-urile vor începe să se antreneze singure, în contextul în care unii experți se tem că acestea ar putea „să se întoarcă împotriva noastră”.
Candidatul selectat va fi responsabil pentru evaluarea și atenuarea amenințărilor emergente și „urmărirea și pregătirea pentru capabilități de frontieră care creează riscuri noi de prejudicii grave”.
Unii dintre foștii directori care au ocupat acest post au rezistat doar perioade scurte.
Postul apare pe fondul avertismentelor din industria AI privind riscurile tehnologiei tot mai capabile. Luni, Mustafa Suleyman, directorul executiv al Microsoft AI, a declarat pentru BBC Radio 4: „Sincer, cred că dacă nu ți-e puțin teamă în acest moment, înseamnă că nu ești atent.”
Demis Hassabis, co-fondatorul Google DeepMind și laureat al Premiului Nobel, a avertizat luna aceasta asupra riscurilor, inclusiv că AI-urile ar putea „deveni imprevizibile într-un mod care dăunează umanității”.
În contextul opoziției Administrației Trump, există puțină reglementare a AI la nivel național sau internațional.
Yoshua Bengio, informatician cunoscut ca unul dintre „nașii AI”, a declarat recent: „Un sandviș este mai reglementat decât AI.” Rezultatul este că firmele de AI își reglementează în mare parte singure activitatea.
Ce a spus Sam Altman despre locul de muncă
„Va fi un job stresant, și vei fi aruncat în apă adâncă aproape imediat”, a declarat Sam Altman, directorul executiv al organizației din San Francisco, lansând căutarea pentru ocuparea „unui rol critic” care să „ajute lumea”.
„Avem o bază solidă pentru măsurarea capacităților în creștere, dar intrăm într-o lume în care avem nevoie de o înțelegere și o evaluare mai nuanțată a modului în care aceste capacități ar putea fi abuzate și cum putem limita aceste efecte negative atât în produsele noastre, cât și în lume, astfel încât să ne putem bucura cu toții de beneficiile extraordinare. Aceste întrebări sunt dificile și există puține precedente”, a scris Altman pe X.
Un utilizator a răspuns ironic: „Sună destul de relaxat, include și concediu?”.
Nu știm. Include, însă, pe lângă salariul generos, acțiuni la OpenAI, de valoare necunoscută. Compania este evaluată, în prezent, la 500 de miliarde de dolari.
Luna trecută, compania rivală Anthropic a raportat primele atacuri cibernetice realizate cu ajutorul AI, în care inteligența artificială a acționat în mare parte autonom sub supravegherea presupusă a actorilor statali chinezi, reușind să acceseze datele interne ale țintelor.
OpenAI, în mijlocul unor procese
Luna aceasta, OpenAI a declarat că cel mai recent model al său este aproape de trei ori mai bun la hacking decât acum trei luni și a afirmat că „ne așteptăm ca modelele AI viitoare să continue pe această traiectorie”.
OpenAI se mai apără și într-un proces intentat de familia lui Adam Raine, un adolescent de 16 ani din California care și-a luat viața după presupusa încurajare din partea ChatGPT. Compania susține că Raine a folosit tehnologia necorespunzător. Un alt caz, depus luna aceasta, susține că ChatGPT ar fi încurajat iluziile paranoice ale unui bărbat de 56 de ani din Connecticut, Stein-Erik Soelberg, care și-a ucis apoi mama de 83 de ani și s-a sinucis.
Un purtător de cuvânt al OpenAI a declarat că revizuiește documentele în cazul Soelberg, descriind situația ca fiind „incredibil de sfâșietoare” și că îmbunătățește antrenamentul ChatGPT „pentru a recunoaște și a răspunde la semnele de suferință mentală sau emoțională, aplanând conversațiile și ghidând oamenii către sprijin real în lumea fizică”.