学术动态
您当前的位置: > 动态研究  > 学术动态

有时你需要事实,有时你需要一个拥抱:理解老年人对基于大模型的对话式人工智能解释的偏好

  • 期号:2026-10 总154期

Niharika Mathur¹,Tamara Zubatiy²,Agata Rozga¹,Jodi Forlizzi³,Elizabeth D. Mynatt⁴

(1. School of Interactive Computing, Georgia Institute of Technology;

2. Northeastern University;

3. Human-Computer Interaction Institute, Carnegie Mellon University;

4. Khoury College of Computer Sciences, Northeastern University)

编者按:

随着ChatGPT等大语言模型(Large Language Models,LLMs)逐步嵌入智能音箱、家庭机器人和健康辅助系统,对话式人工智能正在成为支持老年人居家养老(aging in place)的重要技术形态。相比传统语音助手,LLM能够结合历史对话、环境传感器和用户活动生成更加自然、灵活且个性化的回答,但其“为什么这样提醒我”“为什么认为现在有风险”等解释能力,也直接影响老年人是否理解、信任并采取系统建议。现有可解释人工智能(Explainable AI,XAI)研究长期侧重向开发者说明模型内部机制,而对于日常使用者,特别是存在认知变化的老年群体,什么样的解释真正有用、不同情境下需要怎样的解释,仍缺少系统的用户研究。

研究采用HCI领域的Speed Dating探索式研究方法,通过一系列数字故事板(storyboards)构造尚未真正部署的未来智能家居交互场景。研究共招募23名65—78岁的老年参与者,其中包括11对共同生活的伴侣以及1名单独参与者;每对伴侣中的一人处于轻度认知障碍(Mild Cognitive Impairment,MCI)阶段。参与者需要想象自己与名为“Rosey”的家庭人工智能助手互动,并对系统给出的不同解释进行讨论和评价。研究选择了两类具有明显风险差异的应用情境:一类是低风险、重复发生且不紧急的日常提醒(Routine Reminders),例如提醒伸展身体、吃午饭或进行日常活动;另一类是高风险、一次性且时间敏感的紧急警报(Emergency Alerts),例如发现厨房烟雾、跌倒风险或异常健康状况。

针对每个场景,作者进一步设计了四种不同信息来源的解释。第一类是对话历史(conversational history),即引用用户过去与AI的交谈,例如“因为你昨天说身体有些酸痛”;第二类是环境数据(environmental data),直接引用传感器或可穿戴设备的实时信息,例如“烟雾探测器刚刚触发,而且厨房温度高于正常水平”;第三类是基于活动的推断(activity-based inferences),根据用户当前行为进行解释,例如“因为你整个上午都没有活动,所以现在可能适合起来伸展一下”;第四类是系统内部逻辑(internal system logic),主要以模型置信度说明判断,例如“我有95%的把握检测到了厨房烟雾”。

研究首先发现,解释偏好具有显著的情境依赖性。在日常、低风险的提醒中,参与者更倾向于内容较丰富、语气友好并体现长期关系的解释。尤其是引用过去对话和个人习惯的解释,会让AI表现出“记得我”“了解我的生活”的特征,使其更像长期陪伴者而非单纯执行指令的工具。在信息来源方面,参与者总体更认可能够与自身生活直接对应的个性化和可观察信息。环境传感器、可穿戴设备以及活动推断所形成的解释,因为能够提供温度、心率、移动状态等具体证据,通常被认为更加“可信”“事实化”和“可执行”。这类解释让用户知道AI为什么突然发出提醒,也增强了对当前环境的掌控感。与此同时,参与者并非无条件相信这些数据,他们会主动追问传感器是否可能发生误判、可穿戴设备失灵时AI是否能够意识到自身判断存在不确定性。因此,高质量解释不仅需要给出证据,也需要在证据可能不可靠时主动表达不确定性。

与实时环境数据不同,引用历史对话的解释主要发挥长期记忆与关系连续性的作用。参与者尤其重视AI能够记住之前谈论过的偏好、习惯和约定,因为这意味着系统并非每次“从零开始”理解用户。对于正在经历早期认知变化的老年人而言,这种外部记忆甚至可能帮助其重新建立日常活动的连续感;在夫妻共同管理饮食、运动等生活安排时,AI对过去约定的回忆还可以形成温和的提醒与共同责任机制。因此,历史对话信息的价值并不主要来自即时事实,而在于使AI体现出长期学习用户及其生活规律的能力。

与之形成鲜明对比的是,单独呈现“我有92%的把握”一类数值置信度解释得到的评价最低。参与者的问题并非单纯“不喜欢数字”,而是无法理解这个百分比究竟建立在什么依据之上。缺少用户相关情境和可观察证据时,一个精确的数字反而可能显得武断甚至“过度自信”。少数具有较高技术熟悉度的参与者认为置信度仍有价值,但也希望系统将其与具体证据结合,或转换为“较高置信度”“可能”等更自然的语言。由此,作者指出,解释中的模型置信度不应孤立呈现,而应与“为什么有这样的置信度”绑定起来。

研究还发现,老年人并不希望解释成为AI单向输出的一大段理由,而是倾向于将其理解为多轮对话过程。部分参与者将理想解释描述为一种个性化的“对话流程图”:不同用户、甚至同一用户在不同场景下,都可以从不同层级的信息开始,再根据交互逐步展开。AI愿意继续接受追问、纠正和质疑,本身也被参与者视为系统具有可信度和责任感的表现。

更进一步,解释的功能远不止回答“AI为什么这样做”。作者从访谈中归纳出三类重要作用。第一是校准紧迫性:解释需要帮助用户判断情况有多严重、不立即行动可能产生什么后果;第二是指导行动:解释的内容、清晰程度和可信度直接影响用户是否接受AI的建议;第三是成为了解伴侣日常生活的“窗口”。在共同生活或家庭照护场景中,一段解释可以概括AI当天为什么多次提醒某位家庭成员吃饭、休息或检查身体状况,从而帮助伴侣或远程居住的成年子女发现日常行为的异常变化,而不必持续监控老年人的每个行动。

基于这些发现,作者提出,面向老年人的可解释对话式AI应从“静态、单一的解释”转向情境敏感、个性化和可交互的解释机制。一方面,系统可以区分用户相对稳定的解释偏好与随风险、情绪和任务而变化的动态偏好,并通过简短确认、评分或纠正持续学习用户希望获得怎样的解释;另一方面,在使用置信度时,应将数字与传感器、历史交互或其他具体依据结合,而不能用抽象概率替代理由。对于家庭共享场景,系统还应允许老年人决定哪些解释可以分享、分享给伴侣还是子女、分享到何种详细程度,以及通过语音、通知还是私人日志等方式传递,从而避免个性化解释反过来成为隐私泄露渠道。

总体而言,本文的核心贡献在于将对大型语言模型“可解释性”的讨论从模型应该解释什么推进到解释应该在何时、以什么方式、面向谁出现。研究表明,对老年人而言,一个技术上透明的解释并不必然是一个有用的解释:日常生活中,记住过去、体现关怀可能比展示模型置信度更重要;紧急情况下,具体证据、风险程度和行动指引则优先于语言上的亲切与丰富。随着LLM逐渐进入居家养老、健康辅助和智能家庭场景,真正的人本可解释人工智能需要同时理解任务风险、用户情绪、个人历史、家庭关系以及数据边界,在“事实”与“拥抱”之间选择恰当的解释方式

资料来源:

根据Niharika Mathur等人于2026年发表于 Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems(CHI ’26),题目为《Sometimes You Need Facts, and Sometimes a Hug: Understanding Older Adults’ Preferences for Explanations in LLM-Based Conversational AI Systems》的文章缩写整理而成。本文链接:https://doi.org/10.1145/3772318.3790812

(本文责任编辑: 蒋新宇)

Copyright © 2021 RESEARCH INSTITUTE OF SMART SENIOR CARE. All rights reserved

京ICP备18021587号-6