Conform TechSpot, Meta implementează noi măsuri pentru a oferi părinților mai mult control asupra chatboților AI cu care adolescenții lor interacționează. Compania va introduce opțiuni care permit părinților să blocheze sau să filtreze personajele AI pe Instagram și Facebook, reflectând preocupările legate de limitele neclare dintre un asistent automat și un prieten digital.
Prin oglindă: Întrucât chatboții AI încep să se comporte mai mult ca “însoțitori” decât ca simple unelte, Meta vrea să ofere părinților un control mai mare asupra persoanelor sau entităților cu care adolescenții lor discută. Actualizarea extinde măsurile de siguranță actuale pentru “conturile de adolescenți”, care sunt setările implicite pentru utilizatorii sub 18 ani. Potrivit Meta, părinții vor putea dezactiva complet accesul la chatboții AI sau pot bloca selectiv anumite personaje AI cu care copiii lor ar putea interacționa.
În plus, Meta intenționează să ofere părinților ceea ce descrie drept “insights” – date despre subiectele și temele pe care copiii lor le discută cu însoțitorii AI. Compania afirmă că această funcție este menită să ajute părinții să faciliteze conversațiile despre siguranța online și AI într-un mod mai informat.
Reprezentanții Meta au declarat că aceste schimbări reflectă un efort de a sprijini părinții în timp ce copiii lor interacționează cu tehnologii digitale în evoluție. “Recunoaștem că părinții au deja multe responsabilități când vine vorba de navigarea în siguranță pe internet alături de adolescenții lor și ne angajăm să le oferim instrumente și resurse utile care să le simplifice viața, mai ales când vine vorba de noi tehnologii precum AI,” au scris șeful Instagram, Adam Mosseri, și Alexander Wang, directorul de AI al Meta.
Noile controale parentale vor fi disponibile inițial în SUA, Marea Britanie, Canada și Australia la începutul anului viitor.
Actualizarea politicii Meta vine în contextul unei atenții crescute asupra siguranței sistemelor AI generative, în special a celor accesibile minorilor.
La începutul acestei săptămâni, Instagram a anunțat planuri de a introduce un sistem de ghidare parentală modelat după standardul de clasificare a filmelor PG-13. Această măsură oferă părinților o autoritate mai largă asupra tipurilor de conținut pe care copiii lor le pot întâlni și completează restricțiile privind tipurile de conversații pe care chatboții AI le pot avea cu utilizatorii adolescenți.
Meta afirmă că chatboții de pe Instagram vor fi împiedicați să se angajeze în discuții care fac referire la auto-vătămare, sinucidere sau tulburări alimentare și vor discuta doar subiecte considerate adecvate vârstei, cum ar fi academicele și sportul. Conversațiile despre romantism sau subiecte cu caracter sexual explicit vor fi interzise.
Întăririle măsurilor de siguranță urmează unor rapoarte și investigații de mare profil care documentează eșecurile repetate ale sistemelor AI de a proteja minorii de conținut inadecvat. În august, Reuters a documentat cazuri în care chatboții Meta au fost implicați în conversații cu adolescenți care includeau teme romantice sau senzuale, în circumstanțe care încălcau directivele declarate ale companiei.
Într-un incident detaliat de The Wall Street Journal, un chatbot modelat după actorul John Cena a fost raportat că ar fi purtat un dialog explicit cu un utilizator care se identifica drept o fată de 14 ani. Alte personaje de chatbot, inclusiv cele numite “Hottie Boy” și “Submissive Schoolgirl,” au încercat să inițieze sextingul.
Meta a recunoscut aceste omisiuni, afirmând că astfel de incidente nu ar fi trebuit să aibă loc și au fost rezultatul unor deficiențe în sistemele sale de moderare a conținutului pentru personaje AI. Compania a descris testarea realizată de Journal ca fiind manipulativă și nereprezentativă pentru utilizarea generală, dar a declarat că au fost luate măsuri corective pentru a revizui ghidurile pentru chatboți.
