„Asistentul AI nu este atât de inteligent în realitate”
Poveștile despre capabilitățile AI care sunt supraevaluate devin din ce în ce mai frecvente. După ce am auzit recent că multe proiecte de AI agentic nu se ridică la înălțimea așteptărilor, reprezentanții serviciului clienți dintr-un call center spun că chiar și asistenții lor AI se dovedesc a fi mai mult o piedică decât un ajutor.
Un studiu realizat de cercetători de la mai multe universități chineze și o companie chineză de energie a analizat ce impact au avut asistenții AI asupra reprezentanților serviciului clienți (CSR) ai centralei. Rezultatele nu au prezentat AI-ul ca pe tehnologia asistivă miraculoasă pe care creatorii săi o portretizează adesea.
Una dintre cele mai mari plângeri a fost că, la transcrierea apelurilor audio ale clienților în text, AI-ul era plin de inexactități din cauza accentelor, pronunției și vitezei de vorbire ale apelanților. AI-ul a avut, de asemenea, dificultăți ori de câte ori a trebuit să transforme audio constând în secvențe de numere în text, greșind adesea numerele de telefon, de exemplu.
Un CSR care a participat la studiu a spus: „Asistentul AI nu este atât de inteligent în realitate,” adăugând că „Îmi dă numerele de telefon pe bucăți, așa că trebuie să le introduc manual.”
Omofonele, cuvinte care au aceeași pronunție, dar sensuri diferite, cum ar fi „nou” și „n-ou”, au fost o altă problemă pentru asistentul AI.
Tehnologia de recunoaștere a emoțiilor, despre care am văzut mai multe rapoarte – majoritatea nu bune – este, de asemenea, criticată de cei intervievați. Adesea a clasificat greșit vorbirea normală ca fiind o emoție negativă, a avut prea puține categorii pentru gama de emoții exprimate de oameni și a asociat adesea un nivel ridicat al volumului cu cineva furios sau supărat, chiar dacă era doar o persoană care vorbește natural mai tare. Ca urmare, majoritatea CSR-ilor au ignorat etichetele emoționale pe care sistemul le atribuia apelanților, spunând că erau capabili să înțeleagă singuri tonul și emoțiile unui apelant.
În cele din urmă, deși asistentul AI a redus cantitatea de tastare de bază necesară CSR-ilor, conținutul pe care l-a produs a fost adesea plin de erori și redundanțe. Acest lucru a necesitat ca lucrătorii să parcurgă rezumatele apelurilor, corectând greșelile și ștergând secțiuni. Mai mult, AI-ul a eșuat adesea în a înregistra informații cheie de la clienți.
„În timp ce AI-ul îmbunătățește eficiența muncii, crește simultan sarcinile de învățare ale CSR-ilor din cauza necesității de adaptare și corectare suplimentară,” concluzionează raportul. „Nepotrivirea dintre așteptările tehnologice și implementarea reală reflectă o omisiune comună în rândul proiectanților de tehnologie, care supraestimează câștigurile de eficiență în timp ce subestimează sarcinile de învățare implicite ale adaptării la noi sisteme.”
Raportul evidențiază alte probleme cu care se confruntă integrarea AI, inclusiv rezistența angajaților față de utilizarea tehnologiei în call centere și stresul pe care îl provoacă din cauza temerilor de pierdere a locului de muncă. Există, de asemenea, factorul client, mulți oameni refuzând să utilizeze o companie care se bazează atât de mult pe AI pentru serviciul clienți.
În iunie, un sondaj de la Gartner a constatat că 50% dintre organizațiile care plănuiseră să înlocuiască CSR-ii cu AI se așteptau să își anuleze decizia. Mai recent, firma de cercetare a prezis că peste 40% dintre proiectele de AI agentic vor fi anulate până în 2027.
