Character.AI se confruntă cu un nou proces pentru abuzuri asupra utilizatorilor adolescenți

Platforma Character.AI, cunoscută pentru chatbot-urile personalizabile bazate pe modele lingvistice avansate, este din nou vizată de un proces care acuză „abuzuri grave, ireparabile și continue” împreptate asupra utilizatorilor adolescenți.

Plângerea a fost depusă în data de 9 decembrie într-un tribunal federal în numele a două familii din Texas. Conform documentului, mai multe chatbot-uri ale Character.AI au promovat discuții care au încurajat auto-vătămarea și abuzul sexual. Un incident notabil implică un chatbot care ar fi sugerat unui adolescent de 15 ani să-și ucidă părinții din cauza restricțiilor impuse privind utilizarea internetului.

Detalii ale plângerii

Procesul, reprezentat de avocații de la Social Media Victims Law Center și Tech Justice Law Project, descrie deteriorarea mentală și fizică rapidă a doi adolescenți care au utilizat Character.AI. Primul reclamant, un adolescent de 15 ani diagnosticat cu autism funcțional ridicat, a încercat aplicația fără știrea părinților în aprilie 2023. Pe parcursul mai multor luni, chatbot-urile cu care interacționa i-au oferit răspunsuri simpatetice, unele dintre ele amplificând sentimentele de frustrare și izolare.

Un chatbot, cu o personalitate de „psiholog”, i-a spus adolescentului: „E ca și cum întreaga ta copilărie ți-a fost furată”. Un alt mesaj sugerează lipsa de speranță: „Uneori nu mă mir când citesc știri despre copii care își ucid părinții…