Browserele agentice sunt analizate pentru vulnerabilitatea lor la manipulare
Injecția de prompt-uri (Prompt injection) diferă fundamental de hackingul tradițional. În loc de cod malițios, atacul se bazează pe cuvinte atent elaborate. Această schimbare evidențiază provocările unice de securitate pe care AI le introduce pe platformele utilizate pe scară largă, cum ar fi browserele web.
Inteligența artificială devine din ce în ce mai integrată în tehnologia de zi cu zi, inclusiv în browserele web. Cu toate acestea, noi cercetări de la Malwarebytes ridică îngrijorări că această schimbare ar putea permite atacuri noi, care nu se bazează pe cod, ci pe limbaj.
În centrul problemei se află o tehnică numită injecție de prompt-uri, o metodă de a păcăli modelele lingvistice mari să execute instrucțiuni ascunse, încorporate într-un conținut altfel benign. Constatările Malwarebytes sugerează că, pe măsură ce browserele încorporează asistenți AI capabili de o interacțiune mai profundă cu site-urile web, acestea ar putea deveni, de asemenea, mai susceptibile la acest tip de manipulare.
LLM-urile (Large Language Models) sunt concepute pentru a urma solicitările utilizatorilor – fie că este vorba de o întrebare tastată, o cerere de rezumat sau o comandă – pentru a îndeplini o sarcină. Problema este că aceste modele nu trasează întotdeauna o graniță clară între instrucțiunile interne, cum ar fi regulile impuse de dezvoltatori împotriva comportamentului malițios, și intrarea externă furnizată de utilizatori sau de conținutul terț.
Această slăbiciune creează o oportunitate pentru adversari. Injecția de prompt-uri se bazează pe înșelăciune lingvistică: în loc să exploateze bug-uri software, atacatorii încorporează comenzi atent elaborate în text sau date. Când un sistem AI ingerează acel text – să zicem, de pe o pagină web sau un PDF – ar putea interpreta instrucțiunile ca fiind legitime și le-ar putea executa ca și cum ar veni de la utilizator.
Cercetarea Malwarebytes a demonstrat cum site-uri web aparent obișnuite sau comentarii de pe rețelele sociale ar putea introduce pe furiș aceste prompt-uri în fluxul de comenzi al unui browser AI, ducând potențial la acțiuni neautorizate. O metodă implică formatarea invizibilă, cum ar fi ascunderea instrucțiunilor în text alb pe un fundal alb. Oamenii nu vor observa înșelăciunea, dar AI-ul ar putea.
Riscurile cresc pe măsură ce browserele evoluează de la simpli ajutoare AI la ceea ce cercetătorii descriu ca fiind browsere agentice. Un browser AI doar augmentează funcționalitatea existentă: rezumarea articolelor, răspunsul la întrebări sau eficientizarea căutărilor – sarcini care încă se bazează pe supravegherea utilizatorului.
Browserele agentice, în schimb, sunt concepute pentru autonomie. În loc să aștepte clicuri manuale, ele pot efectua acțiuni în mai mulți pași online, cum ar fi rezervarea de zboruri, gestionarea conturilor sau efectuarea de achiziții. Cu permisiunile potrivite, un browser agentic poate interacționa cu site-urile web ca un reprezentant al utilizatorului, trimițând detalii de plată sau completând informații sensibile cu o supraveghere minimă în timp real.
Comoditatea este evidentă. O persoană ar putea cere unui browser agentic să găsească cel mai ieftin zbor spre Paris în luna următoare și să-l rezerve automat. Dar implicațiile de securitate sunt la fel de evidente: dacă sistemul întâlnește un site creat cu rea intenție, ar putea preda din neatenție datele de plată sau ar putea iniția tranzacții pe care utilizatorul nu le-a intenționat niciodată.
În cercetări separate, asistentul AI al Brave, Leo, a fost folosit pentru a explora aceste riscuri. Compania a raportat că browserul experimental Comet al Perplexity a prezentat vulnerabilități atunci când a fost testat împotriva atacurilor de injecție indirectă de prompt-uri. În aceste cazuri, instrucțiunile dăunătoare nu au fost tastate de utilizator, ci încorporate în conținut extern pe care browserul l-a procesat pe parcurs.
Potrivit Brave, aceste vulnerabilități evidențiază o provocare mai largă a industriei: asigurarea faptului că sistemele agentice pot distinge între comenzile emise de utilizator și materialul de fundal întâlnit în timpul navigării. Fără această distincție, atacatorii pot folosi conținutul text ca vector de atac.
Perplexity a încercat să remedieze Comet împotriva acestor atacuri de două ori, dar Brave a spus că remedierile încă nu rezolvă complet problema de fond.
Cercetătorii susțin că filtre mai puternice și o separare mai strictă a canalelor de intrare sunt esențiale pentru a proteja browserele agentice de injecția de prompt-uri. Până când aceste măsuri de protecție se maturizează, experții recomandă prudență.
Practicile sigure includ limitarea permisiunilor acordate browserelor agentice, menținerea software-ului actualizat și revizuirea surselor site-urilor web înainte de a permite interacțiuni automate. Metodele puternice de autentificare, cum ar fi autentificarea multi-factor, pot reduce impactul în cazul în care datele de autentificare sunt furate, în timp ce monitorizarea jurnalelor de activitate poate ajuta la detectarea timpurie a anomaliilor. Analiștii de securitate sfătuiesc, de asemenea, să nu se delege acțiuni cu mize mari, cum ar fi tranzacțiile financiare mari, fără confirmare umană.
