Ilusión de comprensión: por qué los chatbots parecen atentos a nosotros
- Los usuarios a menudo sienten que los chatbots los entienden.
- Esta sensación está relacionada con el efecto del foco.
- Los algoritmos solo procesan texto sin percepción emocional.
- Un enfoque crítico hacia la IA reduce el riesgo de sobreestimar sus capacidades.
Cuando una persona escribe un mensaje en un chatbot, a menudo tiene la sensación de que el interlocutor «ve» su estado de ánimo, capta las emociones y reacciona con comprensión. Esta impresión surge incluso en el caso de modelos de texto simples, que no poseen la capacidad de empatía o de analizar señales no verbales.
Las investigaciones muestran que los usuarios tienden a atribuir al algoritmo de la máquina propiedades de la comunicación humana. Señalan que las respuestas «suena» amigables, «sienten» su solicitud y «se adaptan» a su estado de ánimo. Sin embargo, la mayoría de los chatbots modernos funcionan exclusivamente sobre la base de patrones estadísticos, sin acceso a los estados internos del interlocutor.
Efecto de foco: mecanismo psicológico
Esta percepción se explica por el efecto de foco (spotlight effect) — una distorsión cognitiva descrita por primera vez a finales de la década de 1990 por los psicólogos Thomas Gilovich y sus colegas. La esencia del efecto es que las personas sobreestiman el grado en que sus pensamientos, sentimientos y acciones son notados por los demás. Creemos que nuestras experiencias internas están en «la luz del foco», aunque en realidad permanecen ocultas.
En el contexto de la comunicación con la IA, el efecto se manifiesta en que el usuario automáticamente transfiere el escenario social de comunicación que le es habitual a la máquina. Percibimos las respuestas del bot como reacciones a nuestras emociones, aunque en realidad el algoritmo solo compara el texto de entrada con un enorme conjunto de ejemplos.
Los datos experimentales confirman esta hipótesis. En uno de los estudios, se les pidió a los participantes que mantuvieran un diálogo con un programa que creían que era un «humano» y con un programa del que sabían que era un bot. La evaluación del nivel de comprensión resultó ser casi idéntica, lo que indica una fuerte influencia de las expectativas subjetivas.
Las consecuencias de tal ilusión pueden ser dobles. Por un lado, la sensación de «comprensión» aumenta la comodidad y la disposición a utilizar los servicios, lo que acelera su adopción. Por otro lado, la sobreestimación de las capacidades de la IA aumenta el riesgo de confianza errónea, especialmente en áreas donde se requiere precisión y responsabilidad, como en la medicina o la asesoría legal.
Los expertos aconsejan mantener un enfoque crítico en la interacción con los chatbots: verificar hechos, aclarar fuentes de información y recordar que el algoritmo no tiene conciencia. La transparencia en el funcionamiento de los sistemas, la información abierta a los usuarios sobre sus limitaciones y la educación del público en principios de alfabetización digital ayudan a reducir la influencia del efecto foco.
Así, la sensación de que el chatbot 'entiende' nos es el resultado de una distorsión psicológica conocida, y no una prueba de una verdadera percepción empática por parte de las máquinas. Ser consciente de esta característica ayuda a utilizar la inteligencia artificial de manera más consciente y a evitar errores innecesarios.
Fuente: N+1
