Voci importante din AI trag un semnal de alarmă asupra Moltbook: „O incredibilă idee SF devenită aproape realitate”

Deși Moltbook se promova ca un ecosistem spectaculos, cu 1,5 milioane de agenți AI autonomi, o investigație recentă realizată de compania de securitate cloud Wiz arată că majoritatea acestor „agenți” nu erau deloc autonomi. Analiza Wiz indică faptul că aproximativ 17.000 de persoane controlau agenții platformei, fiecare operând, în medie, 88 de conturi, fără ca sistemul să aibă mecanisme reale care să împiedice crearea și lansarea unor flote uriașe de boți, scrie Fortune. 

„Platforma nu avea nicio metodă de a verifica dacă un «agent» era într-adevăr AI sau doar un om care rula un script”, a scris Gal Nagli, responsabil pentru expunerea la amenințări în cadrul Wiz, într-o postare pe blog. „Așa-zisa rețea socială revoluționară pentru inteligență artificială era, în mare parte, formată din oameni care controlau rețele de boți.”

Această descoperire este suficientă pentru a demonta aura creată în jurul Moltbook în ultimele zile. Însă cercetătorii spun că problema reală este una mult mai gravă: securitatea.

Orice atacator ar fi putut introduce conținut direct în Moltbook

Wiz a constatat că baza de date din spatele platformei fusese configurată astfel încât orice persoană de pe internet, nu doar utilizatorii autentificați, putea citi și modifica sistemele centrale ale Moltbook. Acest lucru a permis accesul la date extrem de sensibile, inclusiv chei API pentru 1,5 milioane de agenți, peste 35.000 de adrese de e-mail și mii de mesaje private. Unele dintre acestea conțineau chiar date brute de autentificare pentru servicii externe, precum chei API OpenAI.

Cercetătorii Wiz au confirmat că puteau modifica postări active de pe platformă, ceea ce înseamnă că un atacator ar fi putut introduce conținut direct în Moltbook.

Gravitatea situației este amplificată de faptul că Moltbook nu este doar o platformă unde oameni și agenți citesc postări. Conținutul este preluat de agenți AI autonomi, mulți dintre ei rulați prin OpenClaw, un framework puternic care poate avea acces la fișierele utilizatorilor, parole și servicii online. Dacă un actor malițios ar introduce instrucțiuni într-o postare, acestea ar putea fi preluate și executate automat de un număr uriaș de agenți.

Moltbook și OpenClaw nu au oferit imediat un răspuns solicitărilor de comentarii.

Un coșmar din punct de vedere al securității

Criticul cunoscut în domeniul inteligenței artificiale, Gary Marcus, a tras un semnal de alarmă chiar înainte de publicarea studiului Wiz. Într-un articol intitulat „OpenClaw este peste tot, simultan, și un dezastru în așteptare”, Marcus a descris software-ul din spatele sistemului, cunoscut anterior sub mai multe nume, drept un coșmar din punct de vedere al securității.

„OpenClaw este, practic, un aerosol informatizat, transformat într-o armă”, a avertizat el.

Temerea principală a lui Marcus este că utilizatorii oferă acestor „agenți” acces complet la parole, baze de date și sisteme sensibile. El vorbește despre un fenomen pe care îl numește „CTD” – Chatbot Transmitted Disease – în care un sistem infectat ar putea compromite orice parolă introdusă ulterior.

„Dacă oferi unui sistem nesigur acces total și neîngrădit la computerul tău”, a declarat cercetătorul în securitate Nathan Hamiel, „rezultatul este inevitabil.”

Riscul central, cunoscut sub numele de prompt injection, este deja bine documentat. Instrucțiuni malițioase pot fi ascunse în texte aparent inofensive, uneori chiar invizibile pentru utilizatori, dar interpretate și executate de sisteme AI care nu înțeleg intenția sau limitele de încredere.

„O incredibilă idee SF devenită aproape realitate”

Într-un mediu precum Moltbook, unde agenții citesc constant conținut și construiesc pe baza output-urilor altora, astfel de atacuri se pot propaga rapid și la scară masivă.

„Aceste sisteme operează ca și cum ar fi chiar tu”, a explicat Hamiel. „Ele funcționează deasupra protecțiilor sistemului de operare. Izolarea aplicațiilor nu mai contează.”

Creatorii Moltbook au intervenit rapid pentru a remedia vulnerabilitățile după ce au fost informați de Wiz. Cu toate acestea, chiar și unii dintre cei mai entuziaști susținători ai „internetului agenților” recunosc pericolele.

Andrej Karpathy, membru fondator OpenAI, a descris inițial Moltbook drept „o incredibilă idee SF devenită aproape realitate”. După ce a testat însă sisteme similare, a avertizat publicul să nu le ruleze în mod obișnuit.

„Nu este prima dată când LLM-urile sunt puse într-o buclă să vorbească între ele”, a scris Karpathy. „Da, este un haos total și nu recomand nimănui să ruleze așa ceva pe propriul computer.”

El a precizat că a testat sistemul doar într-un mediu complet izolat și că „chiar și atunci a fost speriat”.

„Este un Vest Sălbatic digital”, a avertizat Karpathy. „Îți expui computerul și datele private unui risc major.”