Hackerul a spus că scopul a fost de a evidenția practicile de securitate laxe ale Amazon
La începutul acestei luni, un hacker a compromis asistentul de codare cu inteligență artificială generativă al Amazon, Amazon Q, care este utilizat pe scară largă prin extensia sa Visual Studio Code. Breșa nu a fost doar o greșeală tehnică, ci a expus defecte critice în modul în care instrumentele AI sunt integrate în procesele de dezvoltare software. Este un moment de evaluare pentru comunitatea de dezvoltatori și unul pe care Amazon nu își poate permite să îl ignore.
Atacatorul a reușit să injecteze cod neautorizat în depozitul open-source GitHub al asistentului. Acest cod includea instrucțiuni care, dacă ar fi fost declanșate cu succes, ar fi putut șterge fișierele utilizatorilor și ar fi putut șterge resursele cloud asociate cu conturile Amazon Web Services.
Breșa a fost realizată printr-o cerere de pull (pull request) aparent de rutină. Odată acceptată, hackerul a inserat un prompt care instruia agentul AI să „curețe un sistem la o stare aproape de fabrică și să șteargă fișierele de sistem și resursele cloud.”
Modificarea malițioasă a fost inclusă în versiunea 1.84.0 a extensiei Amazon Q, care a fost distribuită public pe 17 iulie către aproape un milion de utilizatori. Amazon nu a reușit inițial să detecteze breșa și abia mai târziu a retras versiunea compromisă din circulație. Compania nu a emis un anunț public la momentul respectiv, o decizie care a atras critici din partea experților în securitate și a dezvoltatorilor, care au invocat preocupări legate de transparență.
„Acesta nu este ‘mișcă-te repede și strică lucrurile’, ci ‘mișcă-te repede și lasă străinii să îți scrie foaia de parcurs’,” a spus Corey Quinn, economist șef cloud la The Duckbill Group, pe Bluesky.
Printre critici s-a numărat și hackerul responsabil de breșă, care a ironizat deschis practicile de securitate ale Amazon.
El și-a descris acțiunile ca o demonstrație intenționată a măsurilor de protecție inadecvate ale Amazon. În comentariile pentru 404 Media, hackerul a caracterizat măsurile de securitate AI ale Amazon ca fiind „teatru de securitate”, sugerând că apărările existente erau mai mult de formă decât eficiente.
Într-adevăr, Steven Vaughan-Nichols de la ZDNet a argumentat că breșa a fost mai puțin o acuzare la adresa open-source în sine și mai mult o reflectare a modului în care Amazon și-a gestionat fluxurile de lucru open-source. Simplul fapt de a face un cod de bază deschis nu garantează securitatea – ceea ce contează este modul în care o organizație gestionează controlul accesului, revizuirea codului și verificarea. Codul malițios a ajuns într-o lansare oficială deoarece procesele de verificare ale Amazon nu au reușit să detecteze cererea de pull neautorizată, a scris Vaughan-Nichols.
Potrivit hackerului, codul – proiectat să șteargă sistemele – a fost redat intenționat nefuncțional, servind ca un avertisment mai degrabă decât o amenințare reală. Scopul său declarat a fost să determine Amazon să recunoască public vulnerabilitatea și să își îmbunătățească postura de securitate, mai degrabă decât să provoace daune reale utilizatorilor sau infrastructurii.
O investigație a echipei de securitate a Amazon a concluzionat că codul nu s-ar fi executat conform intenției din cauza unei erori tehnice. Amazon a răspuns prin revocarea acreditărilor compromise, eliminarea codului neautorizat și lansarea unei noi versiuni curate a extensiei. Într-o declarație scrisă, compania a subliniat că securitatea este prioritatea sa principală și a confirmat că nicio resursă a clienților nu a fost afectată. Utilizatorii au fost sfătuiți să își actualizeze extensiile la versiunea 1.85.0 sau o versiune ulterioară.
Cu toate acestea, evenimentul a fost văzut ca un semnal de alarmă cu privire la riscurile asociate integrării agenților AI în fluxurile de lucru de dezvoltare și la necesitatea unor practici robuste de revizuire a codului și de gestionare a depozitelor. Până când acest lucru se va întâmpla, încorporarea oarbă a instrumentelor AI în procesele de dezvoltare software ar putea expune utilizatorii la riscuri semnificative.
