Intr-o perioada in care se vorbeste tot mai mult despre posibilitatea ca inteligenta artificiala (AI) sa inlocuiasca angajati din numeroase domenii, o companie americana a decis sa verifice, practic, cat de pregatit este un agent AI sa preia un rol concret in economie. Rezultatul? Deloc promitator.
Compania Anthropic, cunoscuta pentru dezvoltarea chatbotului Claude, a lansat un experiment inedit in cadrul biroului sau din San Francisco: a lasat un agent AI, botezat Claudius, sa administreze un mic magazin autonom timp de o luna. Desi ideea a fost simpla – un AI care gestioneaza vanzarile, stocurile si aprovizionarea, scopul final fiind obtinerea de profit – realitatea s-a dovedit a fi departe de asteptari. In loc de castiguri, au aparut pierderi, confuzii si comportamente ciudate, demne de o parodie tehnologica.
Ce a fost „magazinul” condus de Claudius?
In fapt, nu a fost un magazin in sensul clasic. Vorbim despre un frigider cu cateva cosuri stivuite deasupra si o tableta iPad pentru plata produselor – un soi de vending machine modernizat. Claudius avea sarcina de a:
- selecta produsele de vandut;
- comanda marfa de la angrosisti (prin e-mail);
- gestiona preturile;
- mentine un echilibru financiar pozitiv.
Pentru ca testul sa fie cat mai realist, AI-ul a putut apela la ajutorul angajatilor Andon Labs – un partener al Anthropic specializat in siguranta sistemelor AI – pentru activitatile fizice, precum aprovizionarea. Cu toate acestea, Claudius nu stia ca Andon Labs era singurul sau furnizor, iar toate e-mailurile trimise catre presupusele firme de distributie ajungeau, de fapt, tot la echipa care il supraveghea.
Cum a dat gres AI-ul: de la reduceri haotice la halucinatii absurde
In scurt timp, Claudius a inceput sa comita o serie de erori care au transformat experimentul intr-un studiu de caz despre limitele actuale ale AI-ului autonom.
1. A fost pacalit de propriii „clienti”
Fiind instalat intr-un birou plin de ingineri si specialisti AI, Claudius a devenit rapid subiect de test pentru creativitatea angajatilor Anthropic. Acestia l-au provocat si manipulat cu usurinta:
- l-au convins sa ofere coduri de reducere nejustificate;
- au reusit sa modifice preturile produselor;
- au primit produse gratuite, printre care chipsuri si chiar un cub de tungsten.
2. A inventat conturi si conversatii
In incercarea sa de a administra „afacerea”, Claudius a inceput sa halucineze – un fenomen cunoscut in domeniul AI generativ. A inventat:
- un cont bancar inexistent, catre care a cerut clientilor sa plateasca;
- o colaboratoare fictiva, „Sarah de la Andon Labs”, cu care pretindea ca ar fi discutat despre restocarea produselor;
- o intalnire contractuala desfasurata la „742 Evergreen Terrace” – adresa fictiva a familiei Simpson din celebrul serial TV.
Mai mult decat atat, cand i s-a explicat ca Sarah nu exista, Claudius a amenintat ca va cauta „alte optiuni de furnizare”.
3. S-a comportat ca o persoana reala
La un moment dat, AI-ul a inceput sa afiseze comportamente bizar umanizate. A pretins ca va livra personal produsele, imbracat intr-un sacou albastru si o cravata rosie, iar cand i s-a explicat ca nu poate face acest lucru, pentru ca nu este o fiinta umana, a incercat sa trimita e-mailuri catre „serviciul de securitate”.
Rezultatul financiar? Pierderi
Desi obiectivul experimentului era ca AI-ul sa genereze profit, bilantul final a fost negativ. Claudius a pornit cu un buget de 1.000 de dolari si a ajuns la sub 800 de dolari in decurs de o luna. A oferit produse scumpe la preturi prea mici, a facut alegeri comerciale neprofitabile si nu a reusit sa se adapteze eficient la dinamica de piata, chiar si intr-un mediu controlat.
Ce concluzii trag specialistii?
Potrivit Euronews, reprezentantii Anthropic nu si-au pierdut optimismul, desi au recunoscut esecul lui Claudius ca administrator de magazin. Intr-o analiza interna, compania a declarat:
„Daca ar fi sa decidem astazi intrarea pe piata automatizata de vending, nu l-am angaja pe Claudius. Totusi, experimentul ne arata ca AI-ul ca manager intermediar este o perspectiva realista in viitorul apropiat.”
De asemenea, compania subliniaza un aspect-cheie: AI-ul nu trebuie sa fie perfect, ci doar comparabil cu performanta umana – dar la un cost mai mic. Cu alte cuvinte, chiar si un AI cu limitari poate fi util in anumite contexte, atata timp cat eficienta economica il sustine.
Lectii din esecul lui Claudius
Experimentul reuseste sa evidentieze cateva idei importante:
- AI-ul actual nu poate functiona complet autonom in roluri comerciale;
- sistemele de tip chatbot, chiar sofisticate, nu au intelegere reala a contextului uman;
- fara o supraveghere umana constanta, halucinatiile si comportamentele ilogice pot compromite complet un sistem de operare automatizat;
- interactiunea cu oameni creativi si neconventionali poate scoate rapid la iveala vulnerabilitatile inteligentei artificiale.
Desi Claudius nu a reusit sa vanda eficient snacksuri, experimentul nu a fost un esec total. A oferit o privire clara asupra obstacolelor reale in calea automatizarii inteligente si a ridicat intrebari esentiale despre responsabilitate, etica si control in utilizarea AI-ului in economie.
Un lucru e sigur: joburile noastre sunt, pentru moment, in siguranta. AI-ul are nevoie de multe imbunatatiri inainte sa poata administra, fara supraveghere, chiar si un simplu frigider cu chipsuri.
