Un singur document „otrăvitor” poate provoca daune masive
Chatbot-urile și alte servicii AI fac viața din ce în ce mai ușoară pentru infractorii cibernetici. Un atac recent dezvăluit demonstrează cum ChatGPT poate fi exploatat pentru a fura chei API și alte date sensibile stocate pe platforme cloud populare.
Un atac de tip „prompt injection” nou descoperit amenință să transforme ChatGPT în cel mai bun aliat al unui infractor cibernetic în afacerea furtului de date. Denumit AgentFlayer, exploit-ul folosește un singur document pentru a ascunde instrucțiuni „secrete” de prompt care vizează chatbot-ul OpenAI. Un actor malițios ar putea pur și simplu să partajeze documentul aparent inofensiv cu victima sa prin Google Drive – fără a fi necesare click-uri.
AgentFlayer este o amenințare reală „zero-click”. Exploatează o vulnerabilitate în Connectors, o funcție ChatGPT lansată recent, care leagă asistentul de aplicații, servicii și site-uri web externe. Potrivit OpenAI, Connectors suportă unele dintre cele mai utilizate platforme din lume, inclusiv servicii de stocare în cloud precum Google Drive și Microsoft OneDrive.
Cercetătorii în securitate care au descoperit AgentFlayer au folosit Google Drive pentru a evidenția riscurile severe pe care le prezintă chatbot-urile nereglementate și injecțiile de prompt sub acoperire. Documentul otrăvit include un prompt malițios de 300 de cuvinte, ascuns la vedere. Este formatat cu font alb, de dimensiunea unu – practic invizibil pentru cititorii umani, dar complet analizat și executat de chatbot.
Prompt-ul malițios folosit pentru a demonstra capacitățile AgentFlayer instruiește ChatGPT să caute în Google Drive-ul victimei chei API, să le adauge la un URL special creat și să se conecteze la un server extern. Odată ce documentul otrăvit este partajat, atacul este deja în curs de desfășurare. Atacatorul primește cheile API secrete data viitoare când victima interacționează cu ChatGPT (atâta timp cât funcția Connectors este activată).
AgentFlayer nu este o vulnerabilitate specifică platformei cloud a Google, potrivit lui Andy Wen, director senior de securitate la Google Workspace. Totuși, Mountain View lucrează deja la protecții îmbunătățite pentru a preveni ca serviciile sale AI să respecte prompt-uri potențial malițioase, ascunse.
Cercetătorii au dezvăluit atacul către OpenAI la începutul acestui an. Compania a introdus de atunci măsuri de atenuare pentru a bloca AgentFlayer să vizeze Connectors. Deși exploit-ul este conceput pentru a extrage doar o cantitate limitată de date pe cerere, cercetătorii avertizează că subliniază o preocupare mai largă: sistemele AI cu acces nerestricționat la datele utilizatorilor și fișierele cloud prezintă un risc serios de securitate.
