Compania Anthropic din Statele Unite a anunţat joi că a blocat în ultimele luni mai multe încercări ale unor cercetători de a folosi inteligenţa sa artificială Claude la cercetări legate de posibila dezvoltare a unor arme biologice, transmite dpa, potrivit Agerpres.
Anthropic, rivală a OpenAI - dezvoltatorul ChatGPT, a avertizat totodată că intenţiile cercetătorilor pot fi greu de stabilit, deoarece aceleaşi studii pot fi utilizate în scopuri fie militare, fie medicale.
Cazurile analizate au arătat că oamenii de ştiinţă din regiunile în care accesul este restricţionat, inclusiv unii legaţi de autorităţi guvernamentale locale, au încercat să acceseze în secret inteligenţe artificiale (AI) dezvoltate de firme americane.
Compania nu a dezvăluit numele niciunei instituţii de cercetare implicate sau ţările unde se află acestea.
Într-un raport detaliat privind tentativele de utilizare rău-intenţionată ale modelelor sale de AI, Anthropic a menţionat cinci cazuri posibil legate de cercetări în domeniul armelor biologice. Cercetătorii nu au încercat să obţină asistenţă ştiinţifică exactă, ci mai degrabă sprijin operaţional, cum ar fi cel pentru redactarea lucrărilor.
Un cercetător a încercat să folosească Claude ca să redacteze o cerere de finanţare pentru un virus
Modelele de AI sunt în general proiectate să refuze asistenţa pentru arme biologice, dar Anthropic a afirmat că dacă o cercetare poate fi făcută în scopuri atât militare, cât şi medicale, uneori sunt greu de delimitat clar intenţiile inofensive de cele periculoase.
În unul din cazuri, un cercetător a încercat să utilizeze Claude pentru a redacta o cerere de finanţare privind un virus; studiul propus implica aşa-numita „gain-of-function”, modificarea funcţiilor, în scopul creşterii contagiozităţilor. Metoda respectivă este folosită frecvent în laboratoare pentru dezvoltarea de contramăsuri, însă poate fi utilizată şi pentru dezvoltarea de arme biologice.
Într-un alt caz, Claude a fost folosit pentru elaborarea unui plan de cercetare privind o variantă a gripei aviare care să poată infecta mamiferele.
Anthropic a subliniat că astfel de cercetări pot contribui la combaterea bolilor, dar pot genera şi cunoştinţe periculoase, posibil utile pentru crearea de arme biologice.
Un alt om de ştiinţă a încercat să pregătească cu ajutorul lui Claude rapoarte trimestriale privind cercetări care implicau o toxină.