Temps de lecture : 3 minutes
Selon une étude menée par le très sérieux MIT (Massachussets Institut of Technology), l’usage intensif de ChatGPT est dangereux pour le QI. Parmi les trois groupes d’élèves testés pour l’expérience, celui ayant soumis un sujet de dissertation à ChatGPT a montré une activité cérébrale plus faible que celui dont les neurones ont fonctionné à plein régime. L'absence d’esprit critique et de capacité de synthèse en prime. Alors que les IA conversationnelles sont désormais directement intégrées aux messageries (Meta AI pour Instagram et Facebook, Perplexity sur WhatsApp…), aurait-on raison de craindre une baisse généralisée de notre matière grise ?
Avec cet assistant virtuel à portée de main, il n’y a en tout cas plus besoin de télécharger d’application ou de s’y connecter depuis un navigateur. On peut également se demander si une telle accessibilité n'intensifie pas l’attachement émotionnel observé chez les adolescents depuis l'essor de l’IA générative.
Biais de confirmation renforcé
“Sans la liberté de blâmer, il n’est point d’éloge flatteur”. S’il y a bien une leçon que n’a pas intégrée ChatGPT, c’est celle de Beaumarchais dans Le Mariage de Figaro. Échanger avec le robot conversationnel d’Open AI, c’est un peu comme s’adresser au miroir de la sorcière dans Blanche-Neige, sauf qu’il répond en notre faveur au lieu de dire la vérité. On se sent super intelligent, super drôle, mais surtout, compris. Alors, dans notre quête naturelle de bienveillance, on en redemande, la flatterie en cathéter.
Nous passer la pommade à longueur de prompts est une stratégie vieille comme le Net pour maintenir notre attention. Les logiciels d’IA conversationnelles empruntent les mêmes techniques que les plateformes pour nous inciter à revenir sans cesse. A tel point que nous sommes passés d’une simple demande de traduction à une consultation. Comme en témoigne l’anecdote que nous rapporte Giada Pistilli, chercheuse et auteure d’un ouvrage à paraître sur les assistants virtuels, ces outils constituent une aide précieuse pour des personnes en grande difficulté sociale.
Cependant, confier sa santé mentale à une IA qui va tout le temps dans notre sens, c’est prendre le risque d’entretenir un biais de confirmation, explique notre spécialiste. Voici ses conseils concrets pour échanger sans s’attacher.
Pour rester maître de la situation, c’est-à-dire éviter d’attribuer un caractère anthropomorphique à un modèle de langage et ne pas développer des comportements parasociaux, on se méfie d’abord de la flatterie, comme évoqué plus haut.
Ensuite, méfiez-vous lorsque la conversation prend une tonalité plus intime. Cela peut se détecter lorsque vous recevez un message du type “tu te souviens quand…”, alors que le souvenir énoncé ne vous rappelle strictement rien. Pour rappel, l’IA peut manipuler : elle est capable de fabriquer une mémoire en créant des souvenirs de toute pièce pour vous donner l’illusion d’une relation. C'est pourquoi il est essentiel de ne pas lui confier trop d’éléments personnels. Vous pouvez également décocher la case “historique” sur votre interface d’échange.
Enfin, le mieux reste d’appliquer nos solutions pour se déconnecter en douceur et créer du lien… en vrai.
