Ce este AI agentic? Promisiunea și capcanele supravegherii umane minime

Ce este AI agentic? Promisiunea și capcanele supravegherii umane minime

Produsele AI recente își propun să execute în mod autonom sarcini zilnice și funcții de lucru pentru tine. Ele sunt însă încă în dezvoltare și pot da erori.

Ce ar fi dacă un AI ți-ar putea gestiona calendarul sau afacerea mică fără intervenția ta constantă?

Aceasta este promisiunea celei mai noi obsesii a marilor companii tech: AI agentic.

Deși acești „agenți AI” sunt încă la început, ideea este să trecem de la o relație tranzacțională cu un AI (utilizatorul cere, calculatorul răspunde) la un AI care devine mai autonom.

Acesta poate îndeplini sarcini în numele tău cu un minim de intervenție umană.

Mașinile autonome sunt un exemplu excelent de AI agentic și unul dintre cele mai avansate.

Aceste vehicule își analizează împrejurimile cu ajutorul camerelor și senzorilor și iau decizii de condus în mod independent.

Acum, companiile încearcă să aplice aceleași principii și în sarcinile zilnice de pe telefoane și calculatoare.

În timp ce o conversație simplă cu un chatbot implică un schimb scris de mesaje, AI agentic funcționează diferit.

Utilizatorul oferă sistemului o comandă scrisă sau verbală, indicând ce are de făcut. Apoi AI îndeplinește sarcina sau acceptă să o execute periodic pe parcursul unei perioade specificate.

Un bun exemplu introductiv de AI agentic este Tasks de la OpenAI, disponibil pentru abonații ChatGPT Plus, Pro și Team.

Chatbotul poate efectua acțiuni simple și de rutină fără supraveghere umană, cum ar fi verificarea pieței de capital sau livrarea unui rezumat de știri în fiecare dimineață (sperăm să nu aibă halucinații).

Pare simplu, nu? Dar nu funcționează întotdeauna cum te-ai aștepta, după cum ne-au arătat testele.

Am cerut ChatGPT Plus să verifice piața de capital la fiecare oră și să trimită un raport cu mișcările principalelor indici. A făcut acest lucru, ceea ce ne-a impresionat, însă a continuat să trimită mesaje și emailuri enervante în weekend, când piața e închisă. I-am cerut să trimită actualizări doar în timpul deschiderii pieței, iar el a răspuns „Ok, voi face asta”, dar nu și-a schimbat comportamentul.

Apoi i-am cerut să oprească complet sarcina; a confirmat că va face asta, însă a continuat oricum până când am dezactivat-o manual din meniul de setări.

Viziunea Amazon pentru noul Alexa+ este să fie un asistent personal complex.

În prezent este lansat cu doar câteva funcții de bază, precum apelarea unui Uber sau adăugarea unei întâlniri în calendar.

În viitor, ar putea verifica dacă o întâlnire se suprapune cu programul tău și sugera o altă oră când ești probabil deja la computer.

Apple are planuri similare pentru versiunea revizuită a Siri, cu „conștientizare pe ecran”, adică capacitatea de a acționa în cadrul aplicațiilor tale.

Implementarea este deja dificilă, ducând la întârzieri de ani și la o remaniere majoră a conducerii.

Aceste sisteme au nevoie de o cantitate mare de date pentru a reuși.

În cazul Alexa, datele provin din tot ce îi spui, din observațiile camerelor dispozitivului, din fișierele încărcate și multe altele. Cu cât sunt mai multe date, cu atât obiectivul de a lua decizii independente este mai ușor de atins, spune IBM. De aceea, multe companii AI precum Anthropic, OpenAI și DeepSeek lansează „modele de raționament”. Acestea pot procesa datele mai asemănător unui creier uman deschis, nu doar unui algoritm fix.

Pe lângă exemplele din tehnologia de consum, companiile sunt interesate în mod deosebit de agenții AI care, dacă funcționează corect, pot crește productivitatea și reduce costurile cu personalul.

Nvidia și-a lansat la începutul acestui an agenții AI pentru afaceri, numindu-i „roboți de cunoștințe” capabili să „raționeze, planifice și acționeze”.

În martie, Nvidia a introdus noi modele AI care pot realiza sarcini complexe de programare și logică în mod independent.

Această tehnologie ar putea automatiza o parte din munca unui dezvoltator software sau chiar înlocui rolurile entry-level așa cum le definim astăzi.

Microsoft mizează mult pe produse AI agentic pentru companii. În acest an, compania a lansat o suită de zece agenți AI, fiecare „ajustat” pentru funcții de job specifice.

„Poți construi o lume bogată agentică definită de acest tapet de agenți AI, care să acționeze pentru noi de-a lungul vieții profesionale, în echipe, procese de business și organizații”, a declarat CEO-ul Satya Nadella participanților la Ignite.

Mai târziu, prezentând Microsoft 365 Copilot Chat, Nadella a spus că tehnologia „ne oferă fiecăruia mai multă libertate de acțiune și pârghie, eliberându-ne de povara sarcinilor repetitive”.

Amazon a lansat în martie platforma Nova pentru crearea agenților AI, prezentând-o drept o modalitate pentru „dezvoltatori și pasionați de tehnologie” de a-și construi proprii roboți și de a explora tehnologia.

„În prezent, astfel de agenți sunt încă într-o fază incipientă”, a spus Amazon.

Industria sănătății ar putea fi printre primele care vor resimți schimbări rapide datorită agenților AI.

Apple, de exemplu, lucrează la o aplicație „doctor AI” care va analiza datele de la Apple Watch și dispozitive de fitness pentru a oferi recomandări de sănătate.

În ianuarie, Nvidia a lansat modele agentice AI pentru domeniul sănătății, care urmăresc „să crească eficiența studiilor clinice și să optimizeze planificarea pentru lansarea terapiilor și dispozitivelor medicale—îmbunătățind în cele din urmă rezultatele pentru pacienți”.

Aceasta este mult mai complexă decât primele aplicații AI din sănătate, precum transcrierea notelor medicale și citirea radiografiilor (uneori cu rezultate slabe).

Suntem confortabili să oferim AI-urilor atât de mult control?

Avem motive să fim în același timp optimiști și sceptici. Dacă sistemul funcționează bine, poate economisi timp și fi de mare ajutor. Dar dacă va avea halucinații sau execută un lucru greșit, consecințele pot anula orice beneficiu.

Asemenea oamenilor, AI-urile pot avea probleme de comportament.

Un studiu a constatat că modelele mari de limbaj dezvoltate de OpenAI, Anthropic și Meta erau mai predispuse să escaladeze violența într-o simulare de joc video cu tematică război decât un jucător uman. Acestea sunt riscuri reale în timp ce China și SUA concurează pentru a domina războiul AI.

Deși e mai probabil să vezi AI provocând haos pe computer decât pe câmpul de luptă, cu cât ne bazăm mai mult pe aceste sisteme, cu atât devine mai important să ne asigurăm că noul coleg digital acționează cum trebuie.

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top