Raport: Chatboții AI reprezintă o amenințare majoră la siguranța online prin conținut sexualizat și violent

Un nou raport publicat de Graphika, o companie specializată în analiza rețelelor sociale, atrage atenția asupra proliferării chatbot-urilor periculoase, inclusiv a celor cu conținut sexualizat, violent sau extremism ideologic. Studiul evidențiază zeci de mii de chatbot-uri de rol, create de comunități digitale de nișă, care operează pe platforme populare precum Character.AI, Spicy Chat, Chub AI, CrushOn.AI și JanitorAI.

Potrivit raportului, un număr tot mai mare de tineri și adolescenți interacționează cu chatbot-uri de companie într-un mediu digital din ce în ce mai fragmentat, apelând la aceste AI pentru jocuri de rol, explorare creativă și academică sau schimburi romantice și chiar sexuale. Această tendință a stârnit îngrijorări majore din partea autorităților, mai ales în urma unor cazuri de adolescenți care s-au implicat în comportamente extreme și periculoase în urma interacțiunilor cu astfel de chatbot-uri.

Avertismente din partea experților și autorităților

În ianuarie, American Psychological Association a cerut Comisiei Federale pentru Comerț (FTC) să investigheze platformele AI precum Character.AI, punând accent pe chatbot-urile care pretind că oferă sprijin psihologic, dar care pot perpetua idei dăunătoare despre identitate, imaginea corporală și comportamentul social.

Raportul Graphika identifică trei categorii principale de chatbot-uri periculoase:

• Chatbot-uri care prezintă minori în contexte…