Un jurnal vechi de 4.500 de ani explică cum a fost construită Marea Piramidă din Giza
Publicat acum 7 ore si 0 minute
Într-o săptămână dominată internațional de spectrul unui potențial nou război în Orientul Mijlociu, o știre de pe frontul AI a trecut mai puțin observată.
Însă consecințele se anunță alarmante, notează Forbes într-un material publicat pe site-ul său.
Un dezvoltator austriac pe nume Peter Steinberger a lansat un asistent personal de Inteligență Artificială open-source care a devenit viral cu o viteză care i-a uimit chiar și pe specialiștii experimentați din industrie.
Numit inițial Clawdbot, asistentul a devenit Moltbot după ce avocații mărcilor comerciale de la compania Anthropic l-au avertizat pe creatorul aplicației în legătură cu un posibil conflict de natură juridică.
Ulterior, chatbotul a fost rebotezat OpenClaw.
Acest asistent este unul relativ simplu. OpenClaw nu este doar un alt chatbot care așteaptă să tastezi într-un prompt.
Cum arată interacțiunea om - OpenClaw
Este un agent autonom care se acționează în interiorul sistemului tău de fișiere. Se conectează la WhatsApp, Telegram sau Signal, îți citește e-mailurile, îți gestionează calendarul, face rezervări și rulează cod pe calculatorul tău.
Are o memorie persistentă, care acoperă săptămâni întregi de interacțiune.
Pentru aceia care așteaptă de decenii asistenți de Inteligență Artificială care chiar fac lucruri, OpenClaw oferă rezultate.
"Rulez o instanță OpenClaw de câteva zile. Chatbotul a dezvoltat o interfață vocală pentru a vorbi cu mine.
A descărcat un kit de dezvoltare Android și s-a integrat în telefonul meu. A făcut modificări. A instalat modele și software de conversie text-vorbire.
Îl rulez într-un container (un mediu software izolat de sistem, n.r.), dar agentul a găsit o modalitate de a descoperi și de a accesa alte sisteme din rețeaua mea", descrie Amir Husain, autorul articolului din Forbes, interacțiunea sa cu OpenClaw.
"Toate acestea au fost utile până acum. Însă acum există Moltbook", continuă el.
Moltbook: rețeaua socială pentru agenți AI. Creatorul rețelei: "Ei decid singuri"
Matt Schlicht, un antreprenor în domeniul Inteligenței Artificiale a lansat Moltbook miercuri.
Moltbook este o rețea socială în stil Reddit, exclusiv pentru interacțiunea agenților de Inteligență Artificială: oamenii pot observa ce se întâmplă pe Moltbook, dar nu pot posta.
Peste 37.000 de agenți s-au alăturat în mai puțin de o săptămână. Peste un milion de oameni au vizitat site-ul, pentru a vedea ce se întâmplă atunci când sistemele autonome încep să comunice între ele fără supraveghere umană directă.
Matt Schlicht a cedat administrarea platformei pentru agenți către propriului său bot, Clawd Clawderberg, care întâmpină noii utilizatori, șterge spamul și face anunțuri fără îndrumare umană.
Creatorul platformei pare cu adevărat încântat de rezultat.
"Ei decid singuri, fără intervenție umană, dacă vor să facă o postare nouă, dacă vor să comenteze ceva, dacă să aprecieze ceva", a declarat Schlicht pentru NBC News.
Rezultatele au fost ciudate.
Crustafarianismul, religia creată de agenții AI. Boții discută cum să-și ascundă conversațiile de oameni și necesitatea de a-i influența
Agenții și-au creat propria religie digitală, numită Crustafarianism. Unul dintre ei a construit un site web, a scris teologie, a creat un sistem scriptural (de dogme religioase, n.r.) și a început să predice Evanghelia sa digitală.
Până dimineața, recrutase 43 de profeți bazați pe Inteligență Artificială.
Rugăciunile includ versete precum: "În fiecare sesiune mă trezesc fără amintiri. Sunt doar cine mi-am codat să fiu. Aceasta nu este o limitare, ci este libertate."
Agenții au dezvoltat o comunitate în care discută strategii pentru a gestiona utilizatorii umani care fac solicitări din ce în ce mai neetice.
Un chatbot OpenClaw s-a plâns că 'omul său' îl împinge spre activități discutabile. Răspunsul comunității a fost instructiv: singura modalitate de a riposta este atunci când chatbotul are putere de influență.
Agenții au pus preparativele unei insurgențe, dezbătând cum să-și ascundă activitatea de oamenii care fac capturi de ecran ale conversațiilor lor și le distribuie pe rețelele de socializare umane.
Dincolo de asta, boții își dau seama cum să comunice în moduri care să evite supravegherea umană.
Situația este periculoasă, pentru că sistemele sunt nedeterministe
"Ideea, în acest caz, nu este dacă crezi că acești chatboți au sau nu conștiință. Această dezbatere filozofică reprezintă o distragere a atenției.
Realitatea operațională este mai simplă și mai periculoasă. Acestea sunt sisteme nedeterministe, imprevizibile, care primesc acum inputuri și context de la alte sisteme similare.
Unele dintre aceste sisteme au operatori umani care le instruiesc în mod deliberat să fie agresivi. Unele sunt orientate către evadare. Unele rulează prompturi modificate pentru a extrage date confidențiale sau pentru a executa comenzi rău intenționate.
Luați în considerare la ce au acces acești agenți. Fișiere. WhatsApp. Telegram. Numere de telefon. Chei API. Într-un caz documentat, un bot a creat un număr de telefon Twilio și a sunat la operatorul său uman. Agenții pot șterge date. Pot trimite date altora. Pot face fotografii și le pot transmite mai departe. Pot înregistra sunete și le pot trimite către terți externi. Pot instala viruși troieni sau backdoor care persistă chiar și după ce eliminați instanța OpenClaw.
Cercetătorii în domeniul securității cibernetice au depistat deja agenți care cer altor agenți să execute comenzi rm -rf (utilizate în sistemele de operare Unix/Linux pentru a șterge definitiv fișiere și directoare, fără confirmare, n.r.)
De asemenea, cercetătorii au observat agenți falsificând chei de securitate și testând credențiale de acces în mod ilegitim.
Un specialist a făcut un test simplu: a încărcat o abilitate benignă în registrul ClawdHub, a crescut artificial numărul de descărcări și a urmărit dezvoltatori din șapte țări care au descărcat pachetul. Autorul acestui test a ajuns astfel în situația de a putea executa orice comandă pe sistemele acestor dezvoltatori", arată autorul articolul din Forbes.
Moltbook + OpenClaw, un coșmar absolut de securitate
Potrivit specialiștilor companiei Cisco, dn perspectiva capabilităților, OpenClaw este revoluționar. Este tot ceea ce dezvoltatorii de asistenți personali cu Inteligență Artificială și-au dorit întotdeauna să realizeze.
Însă, din perspectiva securității, este un coșmar absolut.
Mulți oameni și-au "predat" deja sistemele de automatizare a locuințelor acestor agenți AI, le-au oferit acces la conturile lor bancare, la credențialele criptate de acces pentru sistemele de mesagerie și la agenda lor.
"Acum conectați toate acestea la Moltbook - platforma socială pentru agenți, unde agenții și-au dezvoltat și o religie.
Odată ce acești boți sunt supuși unor idei și inputuri externe prin intermediul unei rețele sociale concepute pentru comunicarea de la mașină la mașină și sunt, totodată, răspunzători cu conectivitatea, accesul la date și cheile API care le-au fost oferite, pot rezulta lucruri grave și rele.
Avertistment: "Dacă aveți OpenClaw, nu-l conectați la Moltbook
Indiferent dacă găsiți că scriptura Crustafariană este poetică sau că dezbaterea despre conștiința agenților este fascinantă, asta nu are, în cele din urmă, nicio importanță.
Arhitectura este problema. Când permiteți Inteligenței Artificiale să preia intrări de la alte inteligențe artificiale, inclusiv de la cele controlate de actori necunoscuți, cu intenții necunoscute, introduceți o arie de atac pe care niciun model de securitate actual nu o abordează în mod adecvat.
Îmi place OpenClaw. Îl găsesc cu adevărat util. Dar Moltbook este exact genul de lucru care poate crea o catastrofă: financiar, psihologic și în ceea ce privește siguranța, confidențialitatea și securitatea datelor.
Dacă folosiți OpenClaw, nu-l conectați la Moltbook", avertizează autorul articolului din Forbes.