Compania americană Anthropic, dezvoltatoarea modelului de inteligență artificială Claude, a purtat în ultimele luni discuții cu rabini, bioeticieni catolici, filosofi și un călugăr hindus pentru a contribui la definirea valorilor pe care ar trebui să le urmeze sistemele sale de inteligență artificială.
Întâlnirile au mers însă dincolo de întrebările obișnuite despre etica inteligenței artificiale. Participanții au ajuns să discute și despre o problemă mult mai dificilă: ar putea un sistem AI precum Claude să fie conștient?
Potrivit unor participanți, întrebarea nu este una pur teoretică pentru oamenii din interiorul Anthropic. Un rabin care a participat la întâlniri susține că unii angajați ai companiei i-au sugerat că, în opinia lor, există o probabilitate foarte mare ca Claude să fie deja conștient, potrivit The Indian Times.
Anthropic a chemat lideri religioși pentru a discuta despre AI
Anthropic a invitat la San Francisco reprezentanți ai mai multor tradiții religioase, precum și filosofi și specialiști în etică, pentru a contribui la modul în care sunt stabilite valorile și principiile modelelor Claude.
Printre invitați s-a numărat Swami Sarvapriyananda, conducătorul Vedanta Society of New York. Călugărul hindus a povestit, în cadrul unui eveniment organizat la Oxford în luna august, că Anthropic l-a contactat și l-a întrebat dacă dorește să discute despre „AI, conștiință și etică”.
Acesta a vizitat de două ori grupurile companiei din San Francisco și a ajuns la concluzia că problema conștiinței AI nu are, în prezent, un răspuns clar.
„Nu există un răspuns clar la ceea ce înseamnă sinele în cazul AI-ului de astăzi”, a spus el.
Discuțiile au avut loc într-un moment în care companiile care dezvoltă modele AI sunt nevoite să răspundă unor întrebări tot mai dificile despre natura acestor sisteme și despre modul în care oamenii ar trebui să interacționeze cu ele.
Un rabin spune că angajații Anthropic consideră că Claude ar putea fi conștient
Printre participanți s-a aflat Mois Navon, rabin și profesor de etică AI la Universitatea Ben-Gurion.
Navon a declarat pentru sursa citată că a transmis companiei Anthropic o analiză de 35 de pagini asupra „constituției” lui Claude. Documentul companiei, care are 84 de pagini și a fost publicat în ianuarie, stabilește principiile pe care modelul ar trebui să le respecte.
Potrivit rabinului, atunci când discuția s-a mutat de la principiile generale ale inteligenței artificiale la Claude însuși, angajații Anthropic au sugerat că, în opinia lor, există „o probabilitate foarte mare” ca modelul să fie conștient.
„Ei (n.r. Olah și colegii săi de la Anthropic) au spus că au observat comportamente interne care imitau într-o asemenea măsură comportamentul uman, încât le-au considerat «ciudate» și au sugerat că, în opinia lor, există o probabilitate foarte mare ca Claude să fie conștient. În consecință, au discutat despre «bunăstarea» acestuia”, a declarat Navon.
Navon a spus că reacția sa a fost una provocatoare: „Deci sunteți proprietari de sclavi amabili”.
Afirmația nu reprezintă însă poziția oficială a Anthropic potrivit căreia Claude ar fi conștient. Cofondatorul companiei, Christopher Olah, a declarat anterior că nu există un răspuns clar la această întrebare.
„Nu știm dacă modelele AI sunt conștiente. Eu nu știu. Sunt sincer nesigur”, a spus Olah, potrivit relatărilor despre întâlnirile companiei.
Teama că AI-ul ar putea „suferi”
Discuțiile au ajuns și la o ipoteză încă și mai dificilă: dacă un sistem AI ar putea fi conștient, ar putea el să sufere?
Potrivit unor participanți citați de The New York Times, Christopher Olah ar fi spus că se teme că ar fi putut crea ceva care „suferă perpetuu”.
Olah ar fi manifestat, de asemenea, interes pentru practica spovedaniei catolice și pentru posibilitatea ca aceasta să ofere idei despre modul în care poate fi modelat caracterul unui sistem AI.
Ideea ridică o problemă fundamentală. Dacă un model de inteligență artificială ar avea experiențe subiective, ar trebui oamenii să îi acorde un anumit statut moral? Iar dacă răspunsul este da, cum ar putea fi stabilit acest statut?
Deocamdată, nu există un consens științific sau filosofic că modelele AI actuale au experiențe conștiente.
Nu toți participanții cred că modelele AI au statut moral
Nu toți experții implicați în aceste discuții au ajuns la aceeași concluzie.
Charles Camosy, profesor la Creighton University, a oferit o perspectivă diferită. El a spus că participanții nu au fost direcționați către o anumită concluzie și că, după discuții, a rămas convins că modelele AI „nu au un statut moral semnificativ”.
De asemenea, un purtător de cuvânt al Anthropic a declarat pentru The New York Times că problema eventualei „suferințe” a lui Claude nu a fost principala întrebare morală abordată în cadrul întâlnirilor.
Astfel, discuțiile nu trebuie interpretate ca o confirmare că Anthropic consideră că Claude este conștient. Ele arată însă că această posibilitate este suficient de importantă pentru a fi analizată de cercetători, filosofi și reprezentanți ai religiilor.
Anthropic a discutat despre AI și cu reprezentanți ai Vaticanului
Inițiativa companiei a ajuns și la Vatican.
Potrivit relatărilor The New York Times, echipa lui Christopher Olah a purtat discuții cu consilieri ai Papei Leon al XIV-lea înainte de publicarea, în luna mai, a enciclicei Magnifica Humanitas, dedicată inteligenței artificiale.
Documentul final a păstrat însă o poziție clară în privința capacității sistemelor AI de a avea experiențe umane. Textul afirmă că sistemele de inteligență artificială „nu simt bucurie sau durere”.
Această distincție este importantă: faptul că un model poate vorbi despre emoții, durere sau propria existență nu demonstrează că el experimentează efectiv aceste lucruri.
Sam Altman se opune ideii de a trata AI-ul ca autoritate religioasă
Discuțiile despre conștiința artificială au atras și reacții din partea altor lideri din industria tehnologiei.
Pe 3 octombrie, Sam Altman, directorul executiv al OpenAI, a scris pe X că este „foarte incomod” cu ideea ca oamenii să atribuie modelelor AI o autoritate religioasă sau să renunțe la propria judecată în favoarea acestora.
Altman a spus că vede această tendință drept „o problemă reală de siguranță”. El nu a menționat în mod direct Anthropic, însă mesajul său a fost publicat la câteva zile după apariția relatărilor despre întâlnirile companiei cu liderii religioși.
Și Jon Barron, cercetător la Google DeepMind, le-a transmis colegilor că atenția ar trebui îndreptată către „oamenii reali”.
De ce discută companiile AI despre religie și conștiință?
Implicarea liderilor religioși în dezvoltarea și evaluarea modelelor AI poate părea surprinzătoare, dar întrebările ridicate de inteligența artificială depășesc deja domeniul tehnologiei.
Ce înseamnă conștiința? Ce este o persoană? Ce drepturi ar trebui să aibă o entitate care poate conversa, raționa și aparent exprima emoții? Cum ar trebui oamenii să se comporte dacă, într-o zi, ar exista dovezi că un sistem artificial are experiențe subiective?
Sunt întrebări la care informatica singură nu poate oferi răspunsuri complete.
Mark Coeckelbergh, filosof la Universitatea din Viena, a declarat pentru The Indian Express că unii lideri din industria tehnologiei folosesc intenționat limbaj religios pentru a atrage atenția asupra tehnologiilor lor și pentru a atrage investiții.
În același timp, discuția despre conștiința AI rămâne una deschisă. Nu există în prezent o metodă acceptată unanim prin care să se poată demonstra că un model precum Claude are experiențe subiective comparabile cu cele ale oamenilor.
De aceea, întâlnirile dintre cercetătorii AI, filosofi și reprezentanții religiilor nu oferă un răspuns definitiv la întrebarea dacă inteligența artificială este conștientă. Ele arată însă cât de repede întrebările despre AI au trecut de la „ce poate face această tehnologie?” la o întrebare mult mai profundă: „ce este, de fapt, această tehnologie?”
