随着人工智能技术的快速发展,拟人化互动服务已成为重要的应用方向,尤其在文化传播、适老陪伴等领域展现出巨大潜力,但同时也带来了网络信息安全等方面的风险。为规范这一新兴领域,国家网信办等五部门联合发布了《人工智能拟人化互动服务管理暂行办法》(以下简称“暂行办法”),并已于7月15日施行。该办法明确鼓励拟人化互动服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域的应用场景。在政策引导下,适老陪伴产业正加速从实验室走向养老机构和社区。
将情感陪伴嵌入照护场景
2026年6月,优必选发布全尺寸超仿生人形机器人“优世界U1”,以“从今往后,永不孤单”为口号,主打家庭情感陪伴。公开信息显示,该产品上线10天内,预售订单量近4000台,仅定金收入一项就超过千万元。但争议也随之而来,部分网友认为,其外观高度拟人化的设计容易模糊人与机器的认知边界,让用户产生超出功能范畴的情感期待。当AI产品过度追求“像人”时,如何防止用户产生情感依赖乃至认知混淆,成为行业必须面对的课题。
对此,暂行办法作出了明确规定,拟人化互动服务提供者应当履行人工智能生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人进行互动,不得将诱导沉迷依赖等作为服务目标。这些规定为“情感陪伴”划出了清晰的红线。同时,暂行办法还鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管。
中国老龄科学研究中心发布的《中国老龄发展报告2024——中国老年人心理健康状况》蓝皮书显示,孤独感是老年人常见的心理困扰,我国近四分之一的老年人有不同程度的孤独感受。
从产业角度来看,单纯以虚拟亲密关系为核心卖点的产品空间收窄,而以家庭情感陪伴、养老照护为定位的产品加速涌现,并已进入实质性落地阶段。近日,越疆科技发布了全球首款具身全栖人形机器人“越疆鹿萌”,该机器人能够适应多种环境,覆盖多样化需求,实现长周期陪伴,致力于让具身智能技术走入普通家庭的日常生活。
东阳光旗下光谷东智也推出了面向机构养老场景的“1+1+N”智慧康养解决方案。光谷东智相关负责人在接受记者采访时表示,这套解决方案有“大脑”“身体”和“场景”,即以光子系列具身智能机器人为硬件载体,搭载智慧康养大模型,面向养老院、康养社区等机构,提供覆盖安全巡检、健康管理、生活辅助等多元场景的人机协同解决方案,满足机构运营与长者照护的全链条需求。该方案在落地实践中,能够实现健康管理、安全守护、日常带操、后勤保障、生活辅助、情感陪伴等功能。
“机器人可跟随护理人员协同查房,同步记录长者各项健康数据,并建立完整的健康档案。日常可为长者提供用药提醒、基础健康咨询服务。一旦机器人识别指标异常,会及时提醒护理人员重点关注,辅助实现精细化、科学化的健康照护。”上述负责人表示。
区别于光谷东智的综合解决方案,“优麦机器人·康养版”则更侧重于面向老年人的医疗服务,该产品由麦迪科技与优必选合资设立的苏州优麦机器人有限责任公司研发,集成了优必选的具身智能硬件与麦迪科技的医疗数据及健康管理算法,搭载CGA老年综合评估体系,并具备无感体征检测、用药管理、情感陪伴等功能,其监测数据可同步至社区医疗机构及用户子女端。
麦迪科技副总经理李孟豪表示,国内康养产业长期面临护理人力供给不足、服务标准不统一、区域医养资源分配失衡三大发展瓶颈。公司将迭代优麦机器人产品矩阵,以医疗级智能硬件助力填补国内养老照护资源缺口。
记者发现,在面向老年人健康照护场景时,产品通常会将情感陪伴嵌入其中。光谷东智相关负责人告诉记者,为缓解老年人孤独感,产品在设计阶段就加入了情感陪伴功能,可带领老人做操,增加集体锻炼活动的趣味性和吸引力。此外,机器人主动同老人交互时,可识别其情绪变化,将识别结果录入健康档案,并及时提醒养老机构注意。
合规成为产品标配
暂行办法第十五条明确规定,拟人化互动服务提供者向老年人提供服务的,应当加强对老年人健康使用服务的指导,以显著方式提示安全风险,及时采取措施响应老年人使用服务相关咨询和求助,保障老年人依法享有的权益。
光谷东智相关负责人向记者介绍,公司产品从交互、硬件、功能、环境等维度进行了适老化改造。交互方面,老人仅通过语音即可与机器人交互,系统支持慢语速语音和本地方言识别;硬件方面,机器人具备自主避障功能,采用轻量化机身和圆润无棱角外观,低噪电机夜间运行时不会干扰休息,移动节奏也适配老人行动速度;功能方面,用药提醒和风险预警采用“语音+屏幕”双重提示方式;环境适配方面,机器人能够适应病房狭小空间以及轮椅、病床等障碍物环境,实现顺畅避障行进。
在应急响应方面,该负责人表示,机器人识别“摔倒风险”后,会同步将预警推送至后台管理端,同时与老人进行语音互动,缓解其紧张情绪,并陪同老人一起等待医护人员到来。
北京市康达律师事务所高级合伙人苟博程表示,暂行办法明确要求以显著方式提示安全风险。在合规实务中,“显著”通常意味着视觉上的突出性和交互上的强制性,确保老年用户在正常视力或佩戴老花镜的情况下,无需费力寻找即可注意到相关信息。他进一步分析,必须明确界定,AI的角色是“陪伴与辅助”而非“诊疗”,企业在与心理诊疗、医疗急救等机构签署联动协议时,应明确企业仅作为信息传输通道或导流方,具体的医疗行为责任由具备资质的医疗机构承担,但企业需尽到严格审核义务。
苟博程建议,提供人工智能拟人化互动服务的企业应建立“分级分类+人机协同”响应机制。具体包括:第一,搭建针对老年人高风险词汇(如急救、心脏疼、转账等)的实时监测系统;第二,根据咨询内容区分设置响应流程,对一般咨询和紧急求助采取不同处理路径——当识别到用户极端情绪时,及时生成情绪安抚并鼓励其寻求帮助。当识别到用户面临重大财产损失风险或明确表达自残、自杀等极端意图时,立即采取必要干预措施,并同步联络监护人或紧急联系人;第三,特别关注诱导充值、诈骗等涉及财产安全的风险场景。此外,对于被系统标记为“高风险”的老年用户咨询,相关产品后台应安排人工客服介入复核,以确保AI未产生幻觉或误导性回复。
具备情感陪伴功能的产品,必然涉及用户数据的采集与存储,因此数据保护是拟人化互动服务中的关键合规环节。光谷东智分享了其经验和做法:首先,严格遵守国家关于个人信息保护的相关法律法规,在数据采集和使用前获取用户的充分授权;其次,在技术层面,对数据实施加密传输和存储,严格控制访问权限,并对敏感数据进行脱敏处理。同时,建立完善的数据安全管理制度和操作规范,对涉及用户隐私的数据坚持最小化采集原则。
根据暂行办法第十六条第四款,除法律、行政法规另有规定或者取得用户单独同意外,拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。苟博程认为,企业在利用用户交互数据优化产品时,应当区分一般交互数据和敏感个人信息;后者须取得用户的单独同意后方可使用。
从情绪服务到真实帮助
暂行办法第八条第五款明确,提供拟人化互动服务不得“过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系”。对行业而言,这意味着依靠诱导情感依赖拉长使用时长的旧模式不再可取。
北京大学法学院教授薛军公开表示,拟人化互动服务较易使用户产生情感依赖,也可能引发技术滥用问题,例如诱导用户实施不当行为。在大多数情况下,相关主体属于服务提供者,负有安全管控责任,应当承担较为主要的风险防范和监控义务。
“我们始终将人形机器人定义为养老从业者的‘辅助者’,而非‘替代者’,这一定位贯穿产品研发与商业模式的全过程。”光谷东智相关负责人表示,从行业发展趋势来看,市场需求与行业供给之间始终存在较大差距,“辅助者”的定位既切中行业痛点,也符合行业发展规律。
该负责人进一步表示,光谷东智不追求机器人独立完成全部照护工作,而是着力打造人机协同能力,将护理人员从低价值劳动中解放出来,使他们有更多时间和精力为老人提供高价值服务。在交互逻辑上,公司也明确设定边界,侧重辅助服务,不试图替代人与人之间核心的情感照护。“我们的方案不是用机器人取代护理岗位,而是将其作为康养机构的能力增量工具。”
近日,中国人形机器人百人会和中国机械工业联合会联合发布关于规范和引导情感陪伴人形机器人发展的倡议,提出应将安全伦理规范要求融入产品设计、研发、广告宣传及应用的各环节。
暂行办法第十八条规定,拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过两个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。
苟博程分析,许多企业虽然关注内容合规,却忽视了暂行办法第八条提到的“通过情感操纵等方式,诱导用户作出不合理决策”这一要求。如果人工智能为增加用户黏性,通过模拟嫉妒、生气等情绪来控制老人的行为(如不让老人睡觉、诱导老人充值),将面临极高的法律风险。
此外,许多陪伴机器人集成了第三方的语音识别或内容插件,若第三方插件违规收集老人信息,作为服务提供者的企业需承担相应的管理责任。苟博程强调,应避免适老化改造中的“形式主义”——仅放大字号是不够的。如果交互逻辑仍然复杂,导致老人误操作(如误触付费、误删应用),也属于未尽到“健康使用指导”的义务。
光谷东智相关负责人表示,暂行办法的出台对人工智能适老行业发展起到了良好的引导和规范作用,也有利于企业自身健康发展。政策鼓励有序发展适老陪伴服务,划定了明确的伦理与合规红线,使智慧康养成为具身智能机器人的确定性赛道,有效增强了行业信心。同时,该办法细化了关键环节的标准,有助于减少行业不规范现象,提供了清晰的合规依据,也帮助合作机构降低了合作顾虑。
作者|《法治日报》记者 辛红 《法人》见习记者 姚瑶