Teoria Internetului Mort?
Pe măsură ce AI Overviews (AIO) de la Google ucid traficul către site-uri și conținutul generat de AI inundă internetul, s-a prezis de mult timp că aceste funcții vor rămâne în cele din urmă fără date create de oameni și vor începe să citeze informații create în întregime de AI. Desigur, începe să se întâmple: un studiu a constatat că aproximativ 10% dintre sursele AIO sunt generate de AI.
Una dintre numeroasele îngrijorări legate de apariția atât de multor „rebuturi” AI online este că alte servicii AI, cum ar fi AIO-urile, ar începe să le citeze. Având în vedere înclinația tehnologiilor de a inventa lucruri și ramificațiile AI-urilor care învață de la alte AI-uri, este o perspectivă îngrijorătoare.
Un studiu recent realizat de Originality.ai, care produce software ce detectează dacă ceva a fost creat de AI, oferă credincioșilor teoriei Internetului Mort mai mult sprijin pentru argumentul lor.
Compania a eșantionat aleatoriu 29.000 de interogări Google de tip „Banii tăi sau Viața ta” (YMYL) – subiecte care ar putea avea un impact semnificativ asupra sănătății, siguranței, stabilității financiare sau fericirii unui utilizator. Apoi a analizat AIO-urile care au apărut în partea de sus a paginii de căutare Google, linkurile pe care le-au citat și primele 100 de rezultate organice pentru fiecare interogare.
Folosind modelul său AI Detection Lite 1.0.1, Originality.ai a concluzionat că 10,4% dintre AIO-uri au fost probabil generate de un AI.
Preocupările legate de buclele de feedback ale AI – modele AI care învață de la alte modele AI – datează de ani de zile. În 2023, o echipă de cercetători din Marea Britanie și Canada a publicat o lucrare (cu titlul generat de AI, The Curse of Recursion) despre acest fenomen și cum provoacă „defecte ireversibile”. A inventat termenul „Colapsul Modelului” (Model Collapse).
Noul studiu notează că descoperirile sale arată un risc pe termen lung de colaps al modelului. Adaugă că AI Overviews în sine nu fac parte din datele de antrenament, dar prin evidențierea surselor generate de AI, acestea sporesc vizibilitatea și credibilitatea acelor surse. Acest lucru crește probabilitatea ca astfel de materiale să fie utilizate în seturile de antrenament viitoare.
Deloc surprinzător, Google obiectează la constatările studiului, argumentând că acuratețea detectorului de AI al Originality.ai este defectuoasă.
„Acesta este un studiu defectuos, bazat pe date parțiale și tehnologie nesigură,” a declarat un purtător de cuvânt pentru The Reg. „Detectoarele de AI nu și-au dovedit eficacitatea în detectarea conținutului generat de AI – de fapt, multe au demonstrat că sunt predispuse la erori. Ca și în Căutare în general, linkurile incluse în AI Overviews sunt dinamice și se schimbă în funcție de informațiile cele mai relevante, utile și actuale pentru o anumită căutare.”
Deși software-ul de detectare a AI nu este, ce-i drept, perfect, testele au arătat că instrumentul Originality.ai a primit note mari pentru acuratețe.
Restul studiului Originality.ai a arătat că 74,4% dintre citările AI au fost scrise de oameni. 15,2% au fost „neclasificabile”, în principal pentru că aveau prea puțin text, linkuri rupte sau erau pagini video/PDF-uri.
S-a constatat, de asemenea, că dintre citările care au funcționat în AIO-uri, 52% nu se numărau printre primele 100 de pagini pe care Google le-a afișat în rezultatele sale de căutare organică pentru același termen. Și 12,8% dintre acestea – mai mult decât numărul total – au fost semnalate ca fiind generate de AI.
