Un fermier din China susține că a pierdut aproximativ 100.000 de metri pătrați de culturi peste noapte, după ce a urmat sfaturile oferite de un chatbot bazat pe inteligență artificială (AI).
Chatboții AI nu sunt mașini ale adevărului. Aceștia sunt antrenați pe seturi mari de date, alcătuite în mare parte din informații produse de oameni, învață tiparele după care cuvintele și propozițiile se combină, apoi generează cuvinte în ordinea în care algoritmul estimează că vor fi cel mai bine primite de utilizatorul cu care „conversează”.
Tot mai mulți oameni se bazează pe sfaturile primite de la AI, inclusiv cele medicale, fără să le verifice acuratețea
Uneori, ceea ce spun aceștia corespunde realității, dar nu întotdeauna. Un studiu internațional recent, de exemplu, a constatat că 45% dintre răspunsurile oferite de AI aveau cel puțin o problemă semnificativă, iar 20% dintre acestea conțineau „halucinații” sau, așa cum este cunoscut fenomenul atunci când oamenii încep să inventeze lucruri fără bază reală, pur și simplu informații false, potrivit IFL Science.
Situația este îngrijorătoare, mai ales că unele cercetări arată că una din șapte persoane a folosit AI pentru sfaturi medicale, în loc să consulte un medic de familie, în timp ce alte studii au demonstrat că utilizatorii vulnerabili, cei care nu stăpânesc foarte bine limba engleză sau cei cu un nivel mai scăzut de educație primesc adesea informații mai puțin exacte decât ceilalți.
De multe ori, acest lucru nu are consecințe grave. Dacă întrebi, de exemplu, „câte pietre ar trebui să mănânc?”, în glumă, probabil că ești suficient de lucid încât să nu ai încredere în răspunsul chatbotului atunci când îți recomandă „cel puțin una”. Însă, uneori, având în vedere numărul mare de oameni care ajung să folosească AI, fie din proprie inițiativă, fie în urma promovării insistente din partea unor companii de tehnologie precum Google, aceste răspunsuri pot avea consecințe negative în lumea reală.
Zece hectare de culturi distruse peste noapte
Potrivit unor surse din China continentală, citate de publicația taiwaneză CTWant, un fermier în vârstă de 67 de ani din Chuzhou, China, a ajuns să se bazeze pe sfaturile AI pe parcursul mai multor luni.
Bărbatul ar fi folosit un chatbot al cărui nume nu a fost dezvăluit pentru a-și organiza activitățile agricole, dar și pentru a primi recomandări cu privire la îngrășăminte. Deși inițial era sceptic în privința sfaturilor primite, fermierul a ajuns treptat să aibă încredere în răspunsurile generate de chatbot.
În luna iulie, această încredere l-ar fi costat scump, după ce i-a cerut chatbotului sfaturi despre combaterea dăunătorilor care îi afectau cultura de susan.
Potrivit International Business Times, chatbotul i-ar fi recomandat flupirimethalin și fomesafen, amestecate cu thiamethoxazine și sare de metil, iar fermierul a pulverizat substanțele pe culturile sale de susan fără să ceară sfatul unui specialist în agricultură.
A doua zi, fermierul ar fi descoperit că aproximativ 10 hectare de culturi, echivalentul a 100.000 de metri pătrați, fuseseră distruse.
Explicația chatbotului pentru pagube
După incident, bărbatul a apelat din nou la chatbot pentru a încerca să afle ce se întâmplase. De această dată, răspunsul s-a dovedit mai util. Chatbotul a identificat faptul că fomesafenul este un erbicid utilizat în principal pentru combaterea buruienilor cu frunză lată, fiind folosit frecvent în culturile de soia.
Cum și susanul este o specie cu frunză lată, chatbotul i-a explicat fermierului, din nou fără să aibă vreo autoritate în ceea ce privește corectitudinea informației oferite, că nu era potrivit să folosească un erbicid destinat combaterii plantelor cu frunză lată.
„Dacă îl pulverizezi, a doua zi răsadurile nu vor supraviețui”, i-ar fi spus fermierul publicației CTWant. „Vor muri atât iarba, cât și răsadurile, iar răsadurile vor muri și mai repede.”
Erori ale sistemelor AI cu consecințe în lumea reală
Acesta este departe de a fi primul caz în care o eroare a unui sistem AI a avut consecințe în lumea reală și, cel mai probabil, nu va fi nici ultimul.
Există și alte exemple documentate. Într-un caz care a ajuns inclusiv în literatura de specialitate evaluată de experți, un raport descrie situația unui bărbat căruia i s-a recomandat să înlocuiască clorura de sodiu (sarea de bucătărie) cu bromura de sodiu, ceea ce a avut, în mod previzibil, consecințe grave.
Cazul fermierului chinez arată încă o dată riscul folosirii necritice a instrumentelor de inteligență artificială în domenii în care o informație greșită poate produce pagube materiale importante. Deși chatboturile pot fi utile pentru organizare, documentare și obținerea unor informații generale, recomandările privind substanțele chimice și tratamentele agricole ar trebui verificate cu specialiști și cu surse autorizate înainte de a fi puse în practică.
