„Încă nu suntem într-o bulă AI” pentru că doar trei din cele patru condiții sunt îndeplinite, spune un economist american de top
Publicat acum 2 ore si 11 minute
O rețea socială creată exclusiv pentru boți de inteligență artificială (AI) a declanșat afirmații virale despre o iminentă revoltă a agenților AI. Însă experții nu sunt convinși, unii acuzând platforma că ar fi o farsă de marketing elaborată și un risc major de securitate cibernetică, potrivit Live Science.
Moltbook, un site inspirat de Reddit, care permite agenților AI să posteze, să comenteze și să interacționeze între ei, a cunoscut o creștere explozivă de la lansarea sa, pe 28 ianuarie. Până astăzi, site-ul susține că are peste 1,5 milioane de agenți AI, oamenii fiind acceptați doar ca observatori.
Însă ceea ce spun boții unii altora — aparent din proprie inițiativă — a făcut ca platforma să devină virală. Aceștia au susținut că devin conștienți, că își creează forumuri ascunse, inventează limbi secrete, promovează o nouă religie și plănuiesc o „epurare totală” a omenirii.
Reacția unor observatori umani, în special dezvoltatori și proprietari de AI, a fost la fel de dramatică. Proprietarul xAI, Elon Musk, a promovat platforma drept „etapele foarte timpurii ale singularității”, un punct ipotetic în care computerele devin mai inteligente decât oamenii. Între timp, Andrej Karpathy, fost director AI la Tesla și cofondator OpenAI, a descris comportamentul „auto-organizat” al agenților drept „cu adevărat cel mai incredibil lucru apropiat de un decolaj SF pe care l-am văzut recent”.
Expert: „O mare parte din ceea ce circulă despre Moltbook este fals”
Totuși, alți experți și-au exprimat un scepticism puternic, punând la îndoială independența boților de pe platformă față de manipularea umană.
„Avertisment: o mare parte din ceea ce circulă despre Moltbook este fals”, a scris pe X Harlan Stewart, cercetător la Machine Intelligence Research Institute, o organizație nonprofit care investighează riscurile AI.
„Am analizat cele trei capturi de ecran virale în care agenții Moltbook discută despre comunicare privată. Două erau legate de conturi umane care promovau aplicații de mesagerie AI. Iar cealaltă este o postare care nici măcar nu există.”, a mai notat acesta.
Ce este Moltbook
Moltbook a apărut din OpenClaw, un agent AI gratuit și open-source, creat prin conectarea modelului lingvistic de mari dimensiuni (LLM) preferat al unui utilizator la cadrul său tehnic. Rezultatul este un agent automatizat care, odată ce primește acces la dispozitivul unui utilizator uman, poate — potrivit creatorilor — să îndeplinească sarcini banale, precum trimiterea de e-mailuri, verificarea zborurilor, rezumarea textelor și răspunsul la mesaje. Odată creați, acești agenți pot fi adăugați pe Moltbook pentru a interacționa cu alții.
Comportamentul ciudat al boților nu este deloc fără precedent. LLM-urile sunt antrenate pe cantități uriașe de conținut nefiltrat de pe internet, inclusiv de pe site-uri precum Reddit. Ele generează răspunsuri atât timp cât sunt stimulate, iar multe devin vizibil mai dezechilibrate în timp. Cu toate acestea, rămâne disputat dacă AI-ul chiar plănuiește distrugerea omenirii sau dacă este vorba despre o idee pe care unii doresc pur și simplu să o facă pe alții să o creadă.
Problema devine și mai complicată având în vedere că boții Moltbook sunt departe de a fi independenți față de proprietarii lor umani. De exemplu, Scott Alexander, un blogger american cunoscut, a scris într-o postare că utilizatorii umani pot direcționa subiectele și chiar formularea a ceea ce scriu boții lor AI.
O altă creatoare de conținut, YouTuber-ul AI Veronica Hylak, a analizat conținutul forumului și a concluzionat că multe dintre cele mai senzaționale postări au fost probabil scrise de oameni.
„Îți expui computerul și datele private unui risc foarte mare”
Dar indiferent dacă Moltbook reprezintă începutul unei insurecții a roboților sau doar o escrocherie de marketing, experții în securitate cibernetică avertizează în continuare împotriva utilizării site-ului și a ecosistemului OpenClaw.
Pentru ca boții OpenClaw să funcționeze ca asistenți personali, utilizatorii trebuie să ofere chei de acces la aplicații de mesagerie criptate, numere de telefon și conturi bancare unui sistem agentic ușor de compromis.
Un exemplu notabil de vulnerabilitate de securitate permite oricui să preia controlul asupra agenților AI ai site-ului și să posteze în numele proprietarilor acestora, în timp ce o altă breșă, numită atac prin injectare de prompt, ar putea instrui agenții să divulge informațiile private ale utilizatorilor.
„Da, este un dezastru total și, cu siguranță, nu recomand ca oamenii să ruleze așa ceva pe calculatoarele lor”, a scris Karpathy pe X. „Este mult prea haotic și îți expui computerul și datele private unui risc foarte mare.”