Illusione di comprensione: perché i chatbot sembrano attenti a noi
- Gli utenti spesso sentono che i chatbot li comprendono.
- Questa sensazione è legata all'effetto riflettore.
- Gli algoritmi elaborano solo il testo senza percezione emotiva.
- Un approccio critico all'IA riduce il rischio di sovrastimare le sue capacità.
Quando una persona scrive un messaggio a un chatbot, spesso ha la sensazione che il suo interlocutore «veda» il suo umore, colga le emozioni e reagisca con comprensione. Questa impressione si verifica anche nel caso di semplici modelli testuali, che non possiedono la capacità di empatia o di analisi dei segnali non verbali.
Le ricerche mostrano che gli utenti tendono ad attribuire a un algoritmo macchina le caratteristiche della comunicazione umana. Notano che le risposte «suonano» amichevoli, «sentono» la loro richiesta e «si adattano» al loro umore. Tuttavia, la maggior parte dei chatbot moderni funziona esclusivamente sulla base di schemi statistici, senza accesso agli stati interni dell'interlocutore.
Effetto riflettore: meccanismo psicologico
Questa percezione è spiegata dall'effetto riflettore (spotlight effect) — un'illusione cognitiva descritta per la prima volta alla fine degli anni '90 dagli psicologi Thomas Gilovich e i suoi colleghi. La sostanza dell'effetto è che le persone sovrastimano il grado in cui i loro pensieri, sentimenti e azioni sono notati dagli altri. Crediamo che le nostre esperienze interiori siano «illuminate» dai riflettori, anche se in realtà rimangono nascoste.
Nel contesto della comunicazione con l'IA, l'effetto si manifesta nel fatto che l'utente trasferisce automaticamente lo scenario sociale di comunicazione a lui familiare sulla macchina. Percepiamo le risposte del bot come reazione alle nostre emozioni, anche se in realtà l'algoritmo si limita a confrontare il testo in ingresso con un enorme insieme di esempi.
I dati sperimentali confermano questa ipotesi. In uno degli studi, ai partecipanti è stato chiesto di dialogare con un programma che consideravano un «essere umano» e con un programma di cui sapevano che era un bot. La valutazione del livello di comprensione si è rivelata quasi identica, il che indica una forte influenza delle aspettative soggettive.
Le conseguenze di tale illusione possono essere ambivalenti. Da un lato, la sensazione di «comprensione» aumenta il comfort e la disponibilità a utilizzare i servizi, accelerando la loro adozione. Dall'altro, la sovrastima delle capacità dell'IA aumenta il rischio di fiducia errata, specialmente in settori dove è richiesta precisione e responsabilità, come nella medicina o nella consulenza legale.
Gli esperti consigliano di mantenere un approccio critico nell'interazione con i chatbot: verificare i fatti, chiarire le fonti di informazione e ricordare che l'algoritmo non possiede coscienza. La trasparenza nel funzionamento dei sistemi, l'informazione aperta agli utenti sulle loro limitazioni e l'educazione del pubblico ai principi della alfabetizzazione digitale aiutano a ridurre l'influenza dell'effetto riflettore.
Pertanto, la sensazione che il chatbot 'comprenda' noi è il risultato di un noto distorsione psicologica, e non una prova di una vera percezione empatica da parte delle macchine. La consapevolezza di questa caratteristica aiuta a utilizzare l'intelligenza artificiale in modo più consapevole ed evitare errori inutili.
Fonte: N+1
