Illusion de compréhension : pourquoi les chatbots semblent attentifs à nous
- Les utilisateurs ont souvent l'impression que les chatbots les comprennent.
- Cette impression est liée à l'effet de projecteur.
- Les algorithmes ne font que traiter le texte sans perception émotionnelle.
- Une approche critique de l'IA réduit le risque de surestimer ses capacités.
Lorsque quelqu'un écrit un message dans un chatbot, il a souvent l'impression que l'interlocuteur « voit » son humeur, capte ses émotions et réagit avec compréhension. Cette impression se produit même dans le cas de modèles textuels simples, qui n'ont pas la capacité d'empathie ou d'analyse des signaux non verbaux.
Des études montrent que les utilisateurs ont tendance à attribuer au algorithme machine des caractéristiques de communication humaine. Ils notent que les réponses « sonnent » amicalement, « ressentent » leur demande et « s'adaptent » à leur humeur. Cependant, la plupart des chatbots modernes fonctionnent exclusivement sur la base de régularités statistiques, sans accès aux états internes de l'interlocuteur.
Effet de projecteur : mécanisme psychologique
Cette perception s'explique par l'effet de projecteur (spotlight effect) — un biais cognitif, décrit pour la première fois à la fin des années 1990 par les psychologues Thomas Gilovich et ses collègues. L'essence de l'effet est que les gens surestiment le degré auquel leurs pensées, sentiments et actions sont remarqués par les autres. Nous pensons que nos expériences internes sont sous « la lumière du projecteur », alors qu'en réalité, elles restent cachées.
Dans le contexte de l'interaction avec l'IA, l'effet se manifeste par le fait que l'utilisateur transfère automatiquement le scénario social de communication qui lui est familier à la machine. Nous percevons les réponses du bot comme une réaction à nos émotions, alors qu'en réalité, l'algorithme ne fait que faire correspondre le texte d'entrée à un immense ensemble d'exemples.
Les données expérimentales confirment cette hypothèse. Dans l'une des études, les participants étaient invités à dialoguer avec un programme qu'ils considéraient comme un « humain » et avec un programme dont ils savaient qu'il s'agissait d'un bot. L'évaluation du niveau de compréhension s'est révélée presque identique, ce qui témoigne d'une forte influence des attentes subjectives.
Les conséquences de cette illusion peuvent être doubles. D'une part, la sensation de « compréhension » augmente le confort et la volonté d'utiliser les services, ce qui accélère leur adoption. D'autre part, la surestimation des capacités de l'IA augmente le risque de confiance erronée, en particulier dans des domaines où la précision et la responsabilité sont requises, comme en médecine ou en conseil juridique.
Les experts conseillent de garder une approche critique dans l'interaction avec les chatbots : vérifier les faits, clarifier les sources d'information et se rappeler que l'algorithme n'a pas de conscience. La transparence du fonctionnement des systèmes, l'information ouverte des utilisateurs sur leurs limitations et l'éducation du public aux principes de la littératie numérique aident à réduire l'influence de l'effet des projecteurs.
Ainsi, la sensation que le chatbot « comprend » nous est le résultat d'un biais psychologique connu, et non une preuve d'une véritable perception empathique de la part des machines. Prendre conscience de cette particularité aide à utiliser l'intelligence artificielle de manière plus consciente et à éviter des erreurs inutiles.
Source : N+1
