Illusion des Verständnisses: warum Chatbots uns aufmerksam erscheinen
- Benutzer haben oft das Gefühl, dass Chatbots sie verstehen.
- Dieses Gefühl hängt mit dem Spotlight-Effekt zusammen.
- Algorithmen verarbeiten lediglich Text ohne emotionale Wahrnehmung.
- Ein kritischer Ansatz zu KI verringert das Risiko, ihre Möglichkeiten zu überschätzen.
Wenn eine Person eine Nachricht an einen Chatbot schreibt, hat sie oft das Gefühl, dass der Gesprächspartner ihre Stimmung „sieht“, Emotionen wahrnimmt und verständnisvoll reagiert. Dieser Eindruck entsteht sogar bei einfachen Textmodellen, die nicht über die Fähigkeit zur Empathie oder zur Analyse nonverbaler Signale verfügen.
Forschungen zeigen, dass Benutzer dazu neigen, einem maschinellen Algorithmus Eigenschaften menschlicher Kommunikation zuzuschreiben. Sie bemerken, dass die Antworten „freundlich klingen“, „ihren Wunsch spüren“ und sich „an ihre Stimmung anpassen“. Dabei arbeiten die meisten modernen Chatbots ausschließlich auf der Grundlage statistischer Muster, ohne Zugang zu den inneren Zuständen des Gesprächspartners.
Der Scheinwerfer-Effekt: psychologischer Mechanismus
Diese Wahrnehmung lässt sich durch den Scheinwerfer-Effekt (spotlight effect) erklären – eine kognitive Verzerrung, die erstmals Ende der 1990er Jahre von den Psychologen Thomas Gilovich und seinen Kollegen beschrieben wurde. Der Kern des Effekts besteht darin, dass Menschen die Ausmaß, in dem ihre Gedanken, Gefühle und Handlungen von anderen wahrgenommen werden, überschätzen. Wir glauben, dass unsere inneren Erlebnisse im „Scheinwerferlicht“ stehen, obwohl sie in Wirklichkeit verborgen bleiben.
Im Kontext der Interaktion mit KI zeigt sich der Effekt darin, dass der Benutzer automatisch sein gewohntes soziales Kommunikationsszenario auf die Maschine überträgt. Wir nehmen die Antworten des Bots als Reaktion auf unsere Emotionen wahr, obwohl der Algorithmus in Wirklichkeit nur den Eingabetext mit einer riesigen Menge an Beispielen vergleicht.
Experimentelle Daten bestätigen diese Hypothese. In einer der Studien wurde den Teilnehmern angeboten, einen Dialog mit einem Programm zu führen, das sie für einen „Menschen“ hielten, und mit einem Programm, von dem sie wussten, dass es ein Bot ist. Die Bewertung des Verständnisses war nahezu identisch, was auf den starken Einfluss subjektiver Erwartungen hinweist.
Die Folgen einer solchen Illusion können zwiespältig sein. Einerseits erhöht das Gefühl des „Verstehens“ den Komfort und die Bereitschaft, die Dienste zu nutzen, was deren Einführung beschleunigt. Andererseits erhöht die Überschätzung der Möglichkeiten von KI das Risiko von falschem Vertrauen, insbesondere in Bereichen, in denen Genauigkeit und Verantwortung erforderlich sind, wie zum Beispiel in der Medizin oder der juristischen Beratung.
Experten raten dazu, einen kritischen Ansatz im Umgang mit Chatbots zu bewahren: Fakten zu überprüfen, Informationsquellen zu klären und sich daran zu erinnern, dass der Algorithmus kein Bewusstsein hat. Die Transparenz der Systeme, die offene Information der Nutzer über deren Einschränkungen und die Schulung der Öffentlichkeit in digitalen Kompetenzen helfen, den Einfluss des Spotlight-Effekts zu verringern.
Das Gefühl, dass der Chatbot uns "versteht", ist somit das Ergebnis eines bekannten psychologischen Verzerrungseffekts und kein Beweis für ein echtes empathisches Verständnis seitens der Maschinen. Das Bewusstsein für dieses Merkmal hilft, künstliche Intelligenz bewusster zu nutzen und unnötige Fehler zu vermeiden.
Quelle: N+1
