În timp ce școlile caută metode eficiente pentru a identifica utilizarea AI în lucrările elevilor, FTC (Federal Trade Commission) sancționează un instrument de detectare a conținutului generat de AI care promitea o acuratețe de 98%, dar care avea, în realitate, o rată de succes de doar 53%.
Valul de hype din jurul AI este real, iar unele companii încep să suporte consecințele afirmațiilor înșelătoare.
Astăzi, Federal Trade Commission (FTC) a cerut companiei Workado să „justifice” afirmațiile conform cărora instrumentul său de detectare a textului generat de AI are o acuratețe de „98%”. Potrivit testărilor independente citate de FTC, acuratețea reală a instrumentului Workado este de doar 53%. Mai mult, acesta a fost antrenat exclusiv pentru a clasifica conținut academic, deși era promovat ca fiind util pentru orice tip de conținut online.
„Consumatorii s-au bazat pe AI Content Detector de la Workado pentru a-i ajuta să identifice dacă un text a fost generat cu ajutorul AI, dar produsul nu s-a descurcat mai bine decât o aruncare de monedă,” a declarat Chris Mufarrige, Director al Biroului pentru Protecția Consumatorului din cadrul FTC. „Afirmațiile înșelătoare despre AI afectează concurența, pentru că îngreunează accesul furnizorilor serioși de produse bazate pe AI la consumatori.”
Valul de hype din jurul AI este real, iar unele companii încep să suporte consecințele afirmațiilor înșelătoare.
Astăzi, Federal Trade Commission (FTC) a cerut companiei Workado să „justifice” afirmațiile conform cărora instrumentul său de detectare a textului generat de AI are o acuratețe de „98%”. Potrivit testărilor independente citate de FTC, acuratețea reală a instrumentului Workado este de doar 53%. Mai mult, acesta a fost antrenat exclusiv pentru a clasifica conținut academic, deși era promovat ca fiind util pentru orice tip de conținut online.
„Consumatorii s-au bazat pe AI Content Detector de la Workado pentru a-i ajuta să identifice dacă un text a fost generat cu ajutorul AI, dar produsul nu s-a descurcat mai bine decât o aruncare de monedă,” a declarat Chris Mufarrige, Director al Biroului pentru Protecția Consumatorului din cadrul FTC. „Afirmațiile înșelătoare despre AI afectează concurența, pentru că îngreunează accesul furnizorilor serioși de produse bazate pe AI la consumatori.”
Workado operează sub brandul BrandWell și susține că „AI Detector” a fost unul dintre primele instrumente de acest tip lansate pe piață în 2022. Compania afirmă că acesta este compatibil cu texte generate de modele precum ChatGPT, Gemini, Claude și altele.
Într-o secțiune FAQ, se menționează: „Majoritatea detectorilor și clasificatorilor AI gratuiți sunt depășiți și analizează doar generatoare de limbaj vechi. ‘AI Detector’ identifică toate versiunile GPT, inclusiv GPT-4, Claude Sonnet și Google Gemini. Face acest lucru comparând articole, eseuri și alte texte scrise de oameni cu cele generate de LLM-uri, combinat cu înțelegerea modului în care funcționează modelele LLM și a modului în care sunt construite cuvintele și propozițiile, pentru a detecta alegeri de cuvinte și structuri de frază probabil artificiale.”
Totuși, la baza paginii web, dezvăluirile legale indică faptul că compania nu poate garanta acuratețea rezultatelor. BrandWell menționează că detectorul său poate avea „niveluri variabile de precizie” și recomandă utilizatorilor să analizeze rezultatele cu discernământ. Chiar și pentru companii mari precum OpenAI, diferențierea între textul scris de un om și cel generat de un computer este dificilă — OpenAI și-a închis propriul instrument de detectare a textelor AI în 2023, din cauza ratei ridicate de inexactități.
Evaluările incorecte pot avea efecte devastatoare, mai ales asupra elevilor. Deși trișatul cu ajutorul AI-ului este un fenomen îngrijorător și în creștere, profesorii și administratorii au nevoie de instrumente precise pentru a-l combate eficient. Site-ul BrandWell recunoaște aceste riscuri, încurajând utilizatorii să „comunice deschis cu cei cu care colaborează — dacă suspectați folosirea unui model de limbaj, inițiați un dialog pentru a aborda situația într-un mod etic.”
