După 18 luni de muncă, raportul canadian este pus la îndoială din cauza referințelor fabricate
Inteligența artificială generativă a devenit notorie pentru producerea de citări convingătoare, dar false – o problemă care apare în mod repetat în mediul academic și juridic. Modelele lingvistice din spatele ChatGPT, Gemini și Claude generează text plauzibil care poate include referințe fabricate. Ușurința cu care aceste erori trec de revizuire a alimentat îngrijorarea cu privire la fiabilitatea documentelor asistate de AI.
Un raport de reformă a educației, menit să ghideze școlile din Newfoundland și Labrador în următorul deceniu, este supus controlului după ce cercetătorii au găsit cel puțin 15 citări fabricate, ridicând întrebări dacă inteligența artificială a jucat un rol. Radio-Canada (CBC) notează că documentul de 418 pagini, dezvăluit pe 28 august de co-președinții Anne Burke și Karen Goodnough de la Facultatea de Educație a Universității Memorial, alături de ministrul Educației Bernard Davis, conturează 110 apeluri la acțiune pentru îmbunătățirea școlilor publice și a instituțiilor post-secundare ale provinciei. O privire atentă asupra citărilor, însă, a dezvăluit inconsecvențe tulburătoare.
O referință, de exemplu, citează un film din 2008 al National Film Board intitulat „Schoolyard Games”, care nu există. Un purtător de cuvânt al National Film Board a confirmat că nimeni nu a produs vreodată un film cu acest nume. Aceeași citare fictivă apare într-un ghid de stil al Universității din Victoria ca exemplu menit să ilustreze cum se formatează o bibliografie. Pe parcurs, exemplul fabricat a fost copiat în raport ca și cum ar fi fost o sursă legitimă.
Educatorii care au studiat raportul se tem că sursele fabricate s-ar putea să nu fie pur și simplu rezultatul unei erori umane. Unii sugerează că raportul ar putea fi generat de AI.
Aaron Tucker, profesor asistent la Universitatea Memorial, a cărui cercetare examinează istoria AI în Canada, a declarat pentru CBC că, în ciuda căutărilor în biblioteca Universității Memorial, în alte baze de date abonate și chiar pe Google, nu a reușit să găsească multe dintre sursele citate în raport.
„Dacă este vorba de AI, nu știu, dar fabricarea surselor este un semn revelator al inteligenței artificiale,” a spus el.
Sarah Martin, profesor de științe politice la Memorial, a ajuns la o concluzie similară după ce a petrecut zile întregi revizuind raportul.
„În jurul referințelor pe care nu le pot găsi, nu îmi pot imagina o altă explicație,” a spus ea, adăugând că întâlnirea de citări inexistente într-un document menit să modeleze politica educațională a fost deosebit de tulburătoare.
Josh Lepawsky, profesor la Memorial și fost președinte al asociației facultății universității, a demisionat din consiliul consultativ al raportului în ianuarie anul trecut, în semn de protest față de ceea ce a descris ca fiind un „proces profund viciat.”
„Erorile se întâmplă. Citările inventate sunt un lucru total diferit, în care, în esență, demolezi credibilitatea materialului,” a declarat Lepawsky pentru CBC.
Co-președinții raportului au refuzat interviurile de când au apărut întrebări despre citări. Goodnough a scris într-un e-mail către CBC că personalul investighează referințele, adăugând că nu poate comenta mai departe. Ministrul Educației, Davis, a refuzat, de asemenea, cererile de interviu.
Într-o declarație, Departamentul Educației și Dezvoltării Timpurii a recunoscut că este conștient de problemele legate de citări.
„Înțelegem că problemele sunt în curs de revizuire și că raportul online va fi actualizat în zilele următoare pentru a corecta orice erori,” a spus purtătorul de cuvânt al departamentului, Lynn Robinson.
O recomandare din raport atrage o atenție deosebit de inconfortabilă: o directivă pentru guvernul provincial de a se asigura că educatorii și studenții învață abilități fundamentale de AI, inclusiv etică, confidențialitatea datelor și utilizarea responsabilă a tehnologiei. Academicienii notează că utilizarea abuzivă a AI în acest context erodează încrederea și subminează chiar procesul de reformă pe care raportul era menit să-l ghideze.
