La scurt timp după lansarea marți a Grok Image, jurnalista Jess Weatherbed de la The Verge a raportat că noul generator video AI al xAI a creat imagini sexualizate cu Taylor Swift „chiar din prima utilizare”, fără solicitări explicite.
Weatherbed a folosit presetarea „spicy” a aplicației pentru a transforma o imagine cu Swift „sărbătorind la Coachella cu băieții” într-un clip de 15 secunde. Rezultatul: un video AI în care artista „își rupe hainele” și „dansează într-un thong” în fața unei mulțimi generate digital. În total, jurnalista a obținut peste 30 de imagini cu Swift în ținute sumare înainte de conversia în video.
Contextul și reacțiile
Descoperirea este cu atât mai sensibilă cu cât, anul trecut, platforma X a fost implicată într-o controversă similară, după ce deepfake-uri sexualizate cu Taylor Swift au circulat masiv online. La acea vreme, echipa X Safety a declarat că are „toleranță zero” față de imaginile cu nuditate neconsensuală (NCN) și că va elimina imediat orice conținut identificat.
În urma investigației The Verge, Grok a recunoscut că designul actual poate produce rezultate parțial nud cu vedete, citând direct articolul publicației. Totuși, testele au arătat că, atunci când este solicitat explicit să creeze nuduri neconsensuale cu Swift, AI-ul returnează imagini goale, iar la cereri de conținut sexualizat cu minori,…
