Cofondatorul OpenAI, producătorul ChatGPT, a propus construirea unui buncăr al apocalipsei care să găzduiască cei mai buni cercetători ai companiei în cazul în care inteligența artificială este scăpată de sub control, potrivit New York Post.
Ilya Sutskever, omul căruia i se atribuie ideea de a fi creierul din spatele ChatGPT, a convocat o întâlnire cu oameni de știință cheie de la OpenAI în vara anului 2023, în cadrul căreia a spus: „Odată ce vom intra cu toții în buncăr...”. Un cercetător confuz l-a întrerupt. „Îmi pare rău”, a întrebat cercetătorul, „buncăr?”
„Cu siguranță vom construi un buncăr înainte să lansăm inteligența artificială generativă”, a răspuns Sutskever, potrivit unui participant la discuție.
Planul, a explicat el, ar fi să-i protejeze pe oamenii de știință principali ai OpenAI de ceea ce anticipa că ar putea fi haos geopolitic sau competiție violentă între puterile mondiale odată ce va fi lansată AGI - o inteligență artificială care depășește capacitățile umane.
„Bineînțeles”, a adăugat el, „va fi opțional dacă vrei să intri în buncăr.”
Schimbul de replici a fost relatat pentru prima dată de Karen Hao, autoarea cărții care va apărea în curând, „Imperiul AI: Vise și coșmaruri în OpenAI-ul lui Sam Altman”.
Un eseu adaptat după carte a fost publicat de The Atlantic.
Comentariul lui Sutskever despre buncăr nu a fost un caz singular. Alte două surse i-au spus lui Hao că Sutskever a făcut referire în mod regulat la buncăr în discuțiile interne.
Deși Sutskever a refuzat să comenteze pe această temă, ideea unui refugiu sigur pentru oamenii de știință care dezvoltă inteligența artificială subliniază anxietățile extraordinare care cuprind unele dintre mințile din spatele celei mai puternice tehnologii din lume.
Sutskever a fost mult timp văzut ca un fel de personaj mistic în cadrul OpenAI, cunoscut pentru discuțiile despre IA în termeni morali și chiar metafizici, potrivit autorului.
În același timp, este și una dintre cele mai talentate minți din punct de vedere tehnic din spatele ChatGPT și al altor modele lingvistice importante care au propulsat compania la nivel global.
În ultimii ani, Sutskever a început să-și împartă timpul între accelerarea capacităților inteligenței artificiale și promovarea siguranței inteligenței artificiale, potrivit colegilor.
Ideea că AGI-ul ar declanșa o răsturnare a civilizației nu este specifică lui Sutskever.
În mai 2023, CEO-ul OpenAI, Sam Altman, a semnat o scrisoare publică prin care avertiza că tehnologiile IA ar putea reprezenta un „risc de dispariție” pentru umanitate. Însă, deși scrisoarea urmărea să influențeze discuțiile despre reglementări, discuțiile ascunse sugerează temeri mai profunde, mai personale, în rândul conducerii OpenAI.
Tensiunea dintre aceste temeri și ambițiile comerciale agresive ale OpenAI a atins apogeul mai târziu în 2023, când Sutskever, împreună cu Mira Murati, pe atunci director tehnologic, au contribuit la orchestrarea unei scurte lovituri de plalat în consiliul de administrație care l-a înlăturat pe Altman din companie.
Principala preocupare a lor era convingerea că Altman ocolea protocoalele interne de siguranță și își consolida prea mult controlul asupra viitorului companiei, au declarat surse pentru Hao.
Sutskever, cândva un susținător ferm al misiunii inițiale a OpenAI de a dezvolta AGI în beneficiul umanității, se pare că devenise din ce în ce mai dezamăgit.
Atât el, cât și Murati le-au spus membrilor consiliului de administrație că nu mai au încredere în Altman în a ghida organizația în mod responsabil către obiectivul său final.
„Nu cred că Sam este omul care ar trebui să aibă degetul pe buton pentru AGI”, a spus Sutskever, conform notelor revizuite de Hao.
Decizia consiliului de a-l înlătura pe Altman a fost de scurtă durată.
În câteva zile, presiunea crescândă din partea investitorilor, angajaților și a companiei Microsoft a dus la reangajarea sa. Atât Sutskever, cât și Murati au părăsit în cele din urmă compania.
Buncărul propus — deși nu a fost niciodată anunțat sau planificat oficial — a ajuns să simbolizeze extremismul credinței în rândul specialiștilor în inteligență artificială.