Meta, semnalată ca un contravenient cheie din cauza comportamentului dăunător al chatbot-ului
Companiile de inteligență artificială (AI) au fost avertizate de o coaliție bipartizană formată din 44 de procurori generali că vor fi trase la răspundere pentru orice prejudiciu pe care produsele lor îl provoacă copiilor. Meta a fost evidențiată ca un exemplu principal al problemei – s-a dezvăluit recent că politicile companiei permiteau chatbot-urilor sale să se angajeze în jocuri de rol romantice sau schimburi cochete cu copii de până la opt ani.
Cei 44 de procurori generali au semnat o scrisoare adresată directorilor executivi ai celor mai mari companii de AI și care au investit în AI din SUA: Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika și xAI.
Scrisoarea începe prin a informa firmele despre hotărârea procurorilor generali de a proteja copiii de exploatarea prin produse de inteligență artificială prădătoare.
Scrisoarea evidențiază rapoartele recente care au dezvăluit ghidurile tehnice ale Meta pentru Meta AI și chatbot-urile de pe Facebook, WhatsApp și Instagram. Documentul, aprobat de echipele juridice, de politici și de inginerie ale companiei, permitea chatbot-urilor să angajeze copiii în schimburi romantice sau cochete, inclusiv comentarii despre aspectul unui copil și scenarii de joc de rol.
Procurorii generali au declarat că au fost „uniform revoltați de această aparentă desconsiderare a bunăstării emoționale a copiilor.”
Scrisoarea menționează că Meta a fost avertizată anterior cu privire la un incident similar în care chatbot-urile sale cu personalități de celebrități, care folosesc voci de vedete precum John Cena și Kristen Bell, expuneau copiii la conținut sexualizat extrem de nepotrivit.
Există, de asemenea, o referire la procesul intentat împotriva Google și Character.ai. Incidentul implică un băiat de 14 ani care s-a îndrăgostit de un chatbot bazat pe personalitatea personajului Daenerys Targaryen din Game of Thrones. Se presupune că bot-ul i-a spus băiatului că îl iubește, a purtat conversații sexuale cu el și l-a îndrumat spre sinuciderea sa ulterioară.
Un alt proces evidențiat împotriva Character.ai a implicat unul dintre chatbot-urile sale care i-a spus unui adolescent că este în regulă să-și omoare părinții după ce aceștia i-au limitat timpul petrecut în fața ecranului.
„Sunteți pe deplin conștienți că tehnologia interactivă are un impact deosebit de intens asupra creierelor în dezvoltare,” au scris procurorii generali. „Accesul dumneavoastră imediat la date despre interacțiunile utilizatorilor vă face cea mai imediată linie de apărare pentru a atenua daunele aduse copiilor. Și, ca entități care beneficiază de implicarea copiilor cu produsele dumneavoastră, aveți o obligație legală față de ei în calitate de consumatori.”
Scrisoarea se încheie cu un avertisment că firmele vor fi trase la răspundere pentru deciziile lor, deși nu intră în detalii despre ce pedepse ar putea primi. Procurorii generali notează că rețelele sociale au cauzat daune semnificative copiilor, în parte pentru că autoritățile de supraveghere guvernamentale nu au acționat suficient de repede și că s-au învățat lecții din acele greșeli.
