理解的幻觉：为什么聊天机器人似乎对我们很关注

• 用户常常感觉聊天机器人理解他们。
• 这种感觉与聚光灯效应有关。
• 算法仅处理文本，没有情感感知。
• 对人工智能的批判性方法降低了对其能力的高估风险。

当一个人向聊天机器人发送消息时，他常常会感到对方“看到了”他的情绪，捕捉到情感并做出理解的反应。即使在简单的文本模型中，这种印象也会出现，而这些模型并不具备同理心或分析非语言信号的能力。

研究表明，用户倾向于将机器算法赋予人类交流的特性。他们指出，回答“听起来”友好，“感受到”他们的请求，并“适应”他们的情绪。同时，大多数现代聊天机器人完全基于统计规律运作，无法访问对方的内心状态。

聚光灯效应：心理机制

这种感知可以用聚光灯效应（spotlight effect）来解释——这是一个认知偏差，首次由心理学家托马斯·吉洛维奇及其同事在1990年代末描述。该效应的本质在于，人们高估了他们的思想、感受和行为被他人注意到的程度。我们认为我们的内心体验处于“聚光灯下”，尽管实际上它们仍然是隐藏的。

在与人工智能交流的背景下，效果表现为用户自动将他们习惯的社交交流场景转移到机器上。我们将机器人的回答视为对我们情感的反应，尽管实际上算法只是将输入文本与大量示例进行匹配。

实验数据证实了这一假设。在一项研究中，参与者被要求与他们认为是“人类”的程序进行对话，以及与他们知道是机器人的程序进行对话。理解水平的评估几乎相同，这表明主观期望的强烈影响。

这种幻觉的后果可能是双重的。一方面，“理解”的感觉提高了舒适度和使用服务的意愿，从而加速了它们的推广。另一方面，过高估计人工智能的能力增加了错误信任的风险，特别是在需要准确性和责任的领域，例如医学或法律咨询。

专家建议对与聊天机器人互动保持批判性态度：核实事实，确认信息来源，并记住算法没有意识。系统的透明度、向用户开放其局限性的通知以及对公众进行数字素养原则的教育有助于减少聚光灯效应的影响。

因此，感觉聊天机器人“理解”我们是一个已知心理偏差的结果，而不是机器真正具备同理心的证明。意识到这一特性有助于更有意识地使用人工智能，避免不必要的错误。

来源：N+1