Conform TechSpot, Google a decis să elimine răspunsurile generate de AI din anumite căutări medicale, după ce un raport a evidențiat faptul că informațiile inexacte prezentate ar putea pune în pericol sănătatea utilizatorilor.
Ce s-a întâmplat? Nu fiți surprinși dacă observați lipsa unor rezumate AI de la Google în anumite căutări medicale. Compania a eliminat mai multe dintre aceste rezumate AI, după un raport care a constatat că informațiile inexacte ar putea pune în pericol sănătatea utilizatorilor.
The Guardian a raportat la începutul lunii ianuarie că rezumatele AI, care ar trebui să ofere sinteze generate de AI ale rezultatelor căutării, puneau oamenii în pericol prin oferirea de sfaturi medicale înșelătoare.
Un exemplu a fost rezumatul AI care sfătuia persoanele cu cancer pancreatic să evite alimentele bogate în grăsimi. Experții spun că aceasta este exact opusul a ceea ce ar trebui recomandat și ar putea crește riscul de deces al pacientului.
Rezumatul mai arăta informații incorecte despre teste esențiale ale funcției hepatice, ceea ce ar putea lăsa persoanele cu boli grave de ficat să creadă în mod greșit că sunt sănătoase. Răspunsurile pentru testele de cancer la femei prezentau, de asemenea, informații greșite, ceea ce, conform experților, ar putea determina oamenii să ignore simptomele serioase.
Google a susținut că exemplele incorecte care le-au fost prezentate erau legate de surse bine-cunoscute și de încredere. Dar compania a eliminat acum rezumatele AI pentru mai multe interogări legate de sănătate.
Nu puneți prea multă încredere în rezumatele AI
Întrebările pentru care funcția AI de la Google nu mai apare includ „care este intervalul normal pentru testele de sânge ale ficatului?” și „care este intervalul normal pentru testele funcționale ale ficatului?”
Un purtător de cuvânt al Google a declarat: „Nu comentăm eliminările individuale din Căutare. În cazurile în care rezumatele AI lipsesc contextul, lucrăm pentru a face îmbunătățiri generale și, de asemenea, luăm măsuri conform politicilor noastre, acolo unde este cazul.”
Deși experții medicali au salutat această mișcare, există avertismente că reformularea acestor întrebări ar putea duce în continuare la generarea de rezumate AI înșelătoare. The Guardian a constatat că doar mici variații ale interogărilor determinau apariția rezumatelor AI.
Se observă, de asemenea, că mai multe rezumate incorecte sau înșelătoare care au apărut în raportul original al Guardian nu au fost eliminate, inclusiv rezumate legate de cancer și sănătate mintală. Google a reiterat că acestea nu au fost eliminate deoarece sunt legate de surse bine-cunoscute și de încredere și informează oamenii când este important să caute sfatul unui expert.
Funcția de rezumate AI are un istoric de generare a informațiilor care variază de la false sau înșelătoare la complet absurde. A devenit faimoasă pentru că le-a spus oamenilor să pună lipici pe pizza pentru ca brânza să se lipească și să mănânce pietre, niciuna dintre acestea nefiind bună pentru sănătatea sau dinții tăi.
Un raport din septembrie a constatat că peste 10% din rezumatele AI de la Google citează conținut generat de AI.
