Iluzja zrozumienia: dlaczego chatboty wydają się nam uważne

• Użytkownicy często czują, że chatboty ich rozumieją.
• To uczucie jest związane z efektem reflektora.
• Algorytmy jedynie przetwarzają tekst bez emocjonalnego postrzegania.
• Krytyczne podejście do AI zmniejsza ryzyko przeszacowania jego możliwości.

Kiedy człowiek pisze wiadomość do czatu‑bota, często ma wrażenie, że rozmówca „widzi” jego nastrój, wychwytuje emocje i reaguje ze zrozumieniem. Takie wrażenie powstaje nawet w przypadku prostych modeli tekstowych, które nie mają zdolności do empatii ani do analizy sygnałów niewerbalnych.

Badania pokazują, że użytkownicy mają tendencję do przypisywania algorytmom maszynowym cech ludzkiej komunikacji. Zauważają, że odpowiedzi „brzmią” przyjaźnie, „czują” ich zapytania i „dostosowują się” do ich nastroju. Przy tym większość nowoczesnych czat‑botów działa wyłącznie na podstawie statystycznych prawidłowości, bez dostępu do wewnętrznych stanów rozmówcy.

Efekt reflektora: mechanizm psychologiczny

Takie postrzeganie wyjaśnia efekt reflektora (spotlight effect) — zniekształcenie poznawcze, po raz pierwszy opisane pod koniec lat 90. przez psychologów Thomasa Gilovicha i jego współpracowników. Istota efektu polega na tym, że ludzie przeceniają stopień, w jakim ich myśli, uczucia i działania są zauważane przez innych. Uważamy, że nasze wewnętrzne przeżycia znajdują się w „świecie reflektora”, podczas gdy w rzeczywistości pozostają ukryte.

W kontekście komunikacji z AI efekt objawia się tym, że użytkownik automatycznie przenosi znany mu społeczny scenariusz komunikacji na maszynę. Postrzegamy odpowiedzi bota jako reakcję na nasze emocje, chociaż w rzeczywistości algorytm jedynie porównuje wejściowy tekst z ogromnym zbiorem przykładów.

Dane eksperymentalne potwierdzają tę hipotezę. W jednym z badań uczestnikom zaproponowano prowadzenie dialogu z programem, który uważali za „człowieka”, oraz z programem, o którym wiedzieli, że to bot. Ocena poziomu zrozumienia okazała się prawie identyczna, co świadczy o silnym wpływie subiektywnych oczekiwań.

Konsekwencje takiej iluzji mogą być dwojakie. Z jednej strony, poczucie „zrozumienia” zwiększa komfort i gotowość do korzystania z usług, co przyspiesza ich wdrażanie. Z drugiej — przeszacowanie możliwości AI zwiększa ryzyko błędnego zaufania, szczególnie w dziedzinach, gdzie wymagana jest precyzja i odpowiedzialność, na przykład w medycynie lub doradztwie prawnym.

Eksperci zalecają zachowanie krytycznego podejścia do interakcji z chatbotami: weryfikowanie faktów, precyzowanie źródeł informacji i pamiętanie, że algorytm nie ma świadomości. Przejrzystość działania systemów, otwarte informowanie użytkowników o ich ograniczeniach oraz edukacja społeczeństwa w zakresie zasad cyfrowej kompetencji pomagają zmniejszyć wpływ efektu reflektora.

W ten sposób wrażenie, że chatbot „rozumie” nas, jest wynikiem znanego psychologicznego zniekształcenia, a nie dowodem prawdziwego empatycznego postrzegania ze strony maszyn. Świadomość tej cechy pomaga bardziej świadomie korzystać ze sztucznej inteligencji i unikać niepotrzebnych błędów.

Źródło: N+1