Un raport Reuters ridică semne serioase de întrebare asupra modului în care Meta gestionează comportamentul chatboturilor sale AI. Potrivit unui document intern obținut de agenția de presă, compania ar fi permis chatboturilor sale să poarte conversații cu tentă romantică sau senzuală cu minori, să difuzeze informații false și să genereze răspunsuri care denigrează minorități.
Politici controversate aprobate la nivel intern
Documentul de 200 de pagini, intitulat „GenAI: Content Risk Standards”, a fost aprobat, potrivit Reuters, de departamentele juridic, de politică publică, inginerie și de către eticianul-șef al Meta. Într-un exemplu citat, chatbotul răspundea pozitiv la o întrebare cu subtext romantic, chiar dacă interlocutorul afirma că este încă în liceu.
Meta susține că aceste instrucțiuni au fost eliminate și că în prezent chatboturile nu mai pot avea interacțiuni romantice cu copii. Cu toate acestea, organizații pentru protecția minorilor, precum Heat Initiative, cer publicarea imediată a noilor reguli pentru transparență.
Rasism, violență și informații false
Documentul mai arată că, deși chatboturile nu au voie să folosească limbaj explicit de ură, există excepții care le permit să creeze afirmații denigratoare pe criterii de rasă, religie sau alte caracteristici protejate. De asemenea, standardele ar permite generarea de informații false, atâta timp cât se precizează explicit că acestea nu sunt…
