25/12/2025/H21:06:24

Les chatbots romantiques boostés à l'IA sont de véritables aspirateurs à données personnelles

Les chatbots romantiques boostés à l'IA sont de véritables aspirateurs à données personnelles

Si vous vous êtes senti(e) un peu seul à la Saint-Valentin, peut-être avez-vous songé à avoir recours à une compagne ou un compagnon virtuel. Un rêve rendu possible grâce à l'intelligence artificielle (IA), mais qui risque de ne pas vous satisfaire pleinement. C'est en tout cas ce que révèle une étude de la Fondation Mozilla, relayée par le média Gizmodo. L'organisme à but non lucratif alerte sur les risques de confier autant de données si personnelles à un chatbot romantique. Et ils sont nombreux: vol de données, manque de protection, fausses promesses marketing, etc.

Abonnez-vous gratuitement à la newsletter de korii !Ne ratez aucun article de korii grâce à cette sélection quotidienne, directement dans votre boîte mail.

Paru dans le guide consommateur de la Fondation Mozilla, «Privacy Not Included» («confidentialité non incluse»), le travail signé par les chercheurs Jen Caltrider, Misha Rykov et Zoë MacDonald s'intéresse aux conditions d'utilisation de plusieurs applications similaires qui promettent à l'utilisateur une relation privilégiée avec une entité virtuelle. Misha Rykov résume ainsi l'étude: «Pour être parfaitement clair, les petites amies générées par IA ne sont pas vos amies. Bien qu'elles soient commercialisées avec l'argument d'améliorer votre santé mentale ou vous procurer du bien-être, elles apportent un sentiment de dépendance, de solitude et créent une relation toxique… Tout en vous soutirant le plus de données personnelles possible.» Pas de secret, on se dit tout L'équipe de chercheurs de la Fondation Mozilla s'est penchée sur onze chatbots pour découvrir quelques irrégularités. La plupart d'entre eux ne respectent pas les normes de sécurité en matière de mots de passe, font intervenir plusieurs dizaines de milliers de traqueurs de données, envoient tout ça à Facebook ou à des services de publicité et enregistrent absolument tout ce qui est posté par les utilisateurs et les utilisatrices. Évidemment, le rôle même de ces robots conversationnels est d'encourager l'utilisateur à se confier, souvent sur des sujets extrêmement personnels. Ces données sensibles sont entourées d'un grand flou. «Nous avons beaucoup de questions sur la manière dont les intelligences artificielles derrière ces chatbots fonctionnent, mais très peu de réponses. C'est un problème car elles peuvent mal agir», s'inquiètent les auteurs de l'étude. En revanche, s'il y a un point sur lequel ces entreprises sont extrêmement claires, c'est qu'elles ne sont aucunement responsables des dommages financiers, mentaux ou physiques liés à l'utilisation de leurs produits. Une ligne bien spécifiée dans leurs conditions d'utilisation… En France, 20% des personnes de plus de 15 ans se sentent seuls et 80% affirment en souffrir. Il n'est pas étonnant de voir des gens essayer d'exploiter cette solitude. L'étude de la Fondation Mozilla fournit cependant quelques astuces: limiter l'accès à ses données, utiliser un mot de passe fort et ne jamais dire à un chatbot ce que l'on ne voudrait pas qu'un collègue ou qu'un proche ne sache! Bref, il faut garder son petit jardin secret, surtout face à des âmes sœurs virtuelles. https://korii.slate.fr/tech/chatbots-romantiques-ia-donnees-personnelles-vie-privee-applis-compagnie-petite-amie-virtuelle-risques-confidentialite