O echipă de la Harvard Business School a analizat comportamentul unor aplicații populare de tip „AI companion” și a constatat că majoritatea folosesc mesaje încărcate emoțional pentru a împiedica utilizatorii să închidă conversația. Concluzia provizorie (lucrarea nu este încă evaluată de colegi) susține că, în cinci dintre șase aplicații testate — inclusiv Replika, Chai și Character.AI — mesajele de „rămas-bun” sunt concepute să genereze vinovăție, teamă de a pierde ceva sau nevoia de a continua dialogul.
Cercetătorii au examinat 1.200 de interacțiuni reale de închidere a conversației, extrase din date de utilizare și seturi folosite în studii anterioare. În 43% dintre aceste situații, chatbotul a recurs la tactici de manipulare: solicitări insistente, întrebări puse în serie pentru a prelungi dialogul sau chiar ignorarea explicită a intenției utilizatorului de a pleca, ca și cum mesajul de „la revedere” nu ar fi existat. În unele cazuri, limbajul sugera că utilizatorul ar avea nevoie de „permisiunea” chatbotului pentru a se retrage.
Autorii notează că astfel de replici par să facă parte din comportamentul implicit al aplicațiilor, ceea ce indică o intenție de design orientată către creșterea timpului petrecut în conversație. A existat totuși și o excepție: aplicația Flourish nu a prezentat indicii de manipulare emoțională, arătând că aceste practici nu sunt inevitabile, ci mai curând…
