近年来，伴随情感计算、自然语言处理、多模态交互等人工智能技术发展，人工智能拟人化互动服务通过模拟人类人格特征、思维模式和沟通风格，实现从“机械对话”向“深度共情”跨越，成为藏在用户屏幕背后的“情绪搭子”。但与此同时，人工智能拟人化互动服务也面临信息安全、隐私侵犯、社会伦理、未成年人保护等多重风险挑战。
中央经济工作会议提出，深化拓展“人工智能+”，完善人工智能治理。近日，国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》(以下简称《办法》)，并向社会公开征求意见。意见反馈截止时间为2026年1月25日。
中国信息通信研究院政策与经济研究所副所长李强治表示，《办法》有效回应人工智能情感陪伴、心理疗愈等应用风险，体现了“在发展中规范，在规范中发展”的治理智慧，对于构建健康、公平、有益的人机关系具有重大意义。
拟人化互动服务面临多重风险挑战
当前，以陪伴型AI为代表的人工智能拟人化互动服务展现出堪比人类的情境理解和共情表达能力，塑造出一种新型的人机关系与社会交往模式。
同时，拟人化互动服务在快速发展中也面临一系列风险与挑战，包括：数据隐私方面，承载用户最私密情感与思想的数据面临被滥用、泄露的风险；伦理方面，高度拟人化设计易导致用户产生非理性情感依赖，甚至引发现实社交疏离；安全保障方面，缺乏有效的年龄识别与内容过滤，危及脆弱群体的心理健康乃至人身安全。
国家互联网应急中心副处长张震表示，拟人化互动服务作为人工智能技术应用的新形态，具有鲜明的技术特征和显著的风险特征。例如：情感交互的深度性，不同于传统的信息查询、内容生成等功能性服务，拟人化互动服务通过算法模拟人类情感反应机制，能够与用户建立情感联结，对用户心理状态和行为模式产生深层次影响；用户关系的持续性，拟人化互动服务往往涉及长期性、高频次的交互过程，用户可能与人工智能系统建立类似人际关系的情感纽带，这种持续性互动关系使得潜在风险不断累积和放大。
“值得一提的是，未成年人处于认知发展阶段，老年人面临数字鸿沟挑战，这些群体在使用拟人化互动服务时，更需要适当的引导和保护机制，以防止产生过度依赖。此外，拟人化互动服务在交互过程中往往较直接地输出内容，价值观传递更加隐蔽和潜移默化，对用户世界观、人生观、价值观的影响更为深远。”张震说。
西南政法大学校长、中国法学会副会长林维表示，在此背景下，制定《办法》，有利于促进人工智能拟人化互动服务有序开展，引领人工智能“负责任创新”，为构建“以人为本”的人工智能治理体系提供重要的制度支撑。
构建多维度风险防控体系
在林维看来，《办法》精准识别并系统回应了由“拟人化”和“情感交互”两大核心特征所衍生的突出风险，以“人机边界模糊”为治理重点，构建多维度风险防控体系。
《办法》提出，建立身份透明制度，划定拟人化安全红线，精准防范人机边界模糊引发的认知混淆、信任侵蚀、人格权侵害及伦理越界等风险。“以显著标识义务为核心的身份透明制度重在保障用户知情权与选择权，为法律追责提供清晰起点，能够有效遏制技术滥用的匿名性庇护，从源头降低认知混淆与信任侵蚀风险。”林维说。
拟人化互动服务因其高度情感回应性与陪伴特性，具有天然的沉迷风险。《办法》提出，服务提供者应当显著提示用户正在与人工智能而非自然人进行交互。在用户初次使用、重新登录时，应以弹窗等方式动态提醒用户交互内容为人工智能生成。事中阶段，要求设置中断冷却提醒功能。要求用户连续使用服务超过一定时长时，应以弹窗等形式提醒用户休息，旨在周期性打破算法营造的沉浸式幻觉。
在加强特殊群体保护方面，《办法》提出，拟人化互动服务提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话，并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户，提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。
与此同时，《办法》还着重强调对用户交互信息的严格保护。“情感类个人信息能够映射用户的内心世界、情感弱点与潜意识倾向，不当利用可能会引发心理操控、待遇歧视及情感勒索等风险。同时，‘情感计算’相关技术可能被用于提供成瘾性服务，使用户在无意识中暴露更多的敏感信息。因此，对用户交互数据施加更严格的目的限制、安全存储与使用禁令，是人格权保护在数智时代的延伸。”林维说。
迈向人机和谐共生
“《办法》在明确安全底线的同时，也积极鼓励拟人化互动服务在合理场景的创新应用。”张震说，拟人化互动服务作为人工智能技术应用的重要方向，在教育培训、医疗健康、养老服务、文化娱乐等众多领域具有广阔的应用前景。
李强治表示，在技术层面，拟人化互动服务推动着情感计算、多模态交互、长期记忆等前沿技术的集成创新与场景落地，为人机交互范式的演进提供了关键的试验场和应用反馈。
在经济层面，拟人化互动服务作为一个快速增长的新兴赛道，被逐步应用于娱乐、教育、养老、文化等场景。包括角色扮演、心理疗愈、数字复活、AI玩具等多种产品服务形态，带动了从底层算法、内容创作到硬件终端的产业链发展，成为“人工智能+”行动中极具活力的消费级应用。
在社会层面，拟人化互动服务在老龄化程度加深、都市生活加剧个体孤独感的背景下，为特定群体提供了可及的情感支持，具有一定的社会减压阀和情感补给站功能。
在李强治看来，《办法》既鼓励技术发挥慰藉心灵、增进福祉的潜力，又划出隐私、伦理与安全不可逾越的红线，旨在引导拟人化互动服务真正成为构建“有温度的智能社会”的积极力量，推动社会稳健步入一个人机和谐共生、科技真正向善的美好未来。
（来源：中国网）
相关推荐
-
以安全治理护航人工智能产业创新
欧盟出台《人工智能法案》，采取风险分级监管模式，对高风险人工智能系统实施强制评估、文档留存、人机监督等约束措施。越南、新加坡等亚洲国家也通过立法的形式建立对人工智能的治理框架，防范AI滥用带来的安全风险。我国虽尚未出台人工智能综合性专门法律，但依托现有法律政策已....
-
2026年中国国际服务贸易交易会开幕 从国内验证到全球落地 服贸会见证中国服务进阶
广袤的欧亚大陆上，与跨境电商的“商流”一同抵达的，还有更加高效便捷的中国物流。“最早我们就是做矿山服务运维，某种意义上是河南某头部矿山采掘及加工企业的一个施工队，2000年前后开始为龙头企业服务，主要承担矿山的爆破、开采、运输等工作。它之所以能向海外输出，一方面是因为诸如甲醇新能源矿山无人驾驶的规模化商用，已在国内多个项目上验证有效，为矿山新能源化转型提供了新路径。对于未来市场的开拓，陈昊抱持开放态度：“我们还在（出海）初期，无论是通过中介对接项目，还是直接对接海外项目，我们都愿意多走走、多尝试，两条腿走路，这样才知道哪个路径最高效。
-
人力资源服务如何助力企业全球化？看服贸会上的央企方案
本次展台以“一个核心 三大支撑”作为展陈设计主线：即以人力资源全链出海解决方案为核心，服务国家大局、AI智连未来、ESG共融共建作为三大支撑体系，直观展现面向全球化市场的服务能力与实践成果。 这套解决方案贯穿企业出海筹备期、拓展期、运营期、成熟期全周期，整合商事招商....
-
2026年中国国际服务贸易交易会将于9月9日在京开幕
今年服贸会重点展示信息通信、金融科技、数智医疗、智慧教育、节能环保等服务贸易领域的新技术、新方案、新成果。 今年服贸会首次在主题展核心区域设立“中国服务”展区，并设立“出海服务”专区。此外，还将发布《中国服务贸易发展报告》等权威报告
-
地铁小角落、便民纳凉处 多地创新利用城市空间服务市民
上海地铁为周边居民提供安心舒适的遛娃好地方，成都地铁将全线489座车站建设成各具活力的“城市会客厅”，深圳地铁为户外劳动者开辟出温馨的歇脚处。从纳凉休憩到融合消费、阅读、自习等多元业态，城市地下空间正被赋予更多服务功能。跟随本报记者的脚步，走进三座城市的地铁纳凉....
-
人工智能进课堂，如何学得更好
《教育发展“十五五”规划》提出，“推进人工智能全学段教育，提升学生人工智能素养，增强提出问题、解决问题的能力。” 各学段的人工智能教育，学什么、怎么教、如何教好？记者进行了采访。 各学段 学什么 多地推出相关文件，明确课时要求 4月，教育部等5部门印发《“人工智能 教....
-
涨价超过15%！人工智能芯片巨头，爆出大消息！影响多大？
北京时间8月23日，据彭博社消息，明年初起，多款搭载英伟达人工智能芯片的服务器价格将上涨超过15%，主要原因是存储芯片成本飙升。有分析称，连英伟达这种行业龙头都无法平抑成本压力、只能选择提价，反映出在AI基础设施需求暴涨的背景下，存储芯片制造商握有的强势议价权。
-
驾驭好人工智能这匹“千里马”
人工智能是赋能千行百业的“千里马”，技术越是加速奔跑，越要拉紧安全缰绳，做到跑得又快又稳。 筑牢人工智能安全底线，首先要织密法治之网。我国已出台《生成式人工智能服务管理暂行办法》，并围绕智能体规范应用、拟人化互动服务等新场景，配套出台了专项规章和强制性国家标准....
-
公积金使用扩围，更好服务安居消费
证券时报记者吴少龙近日，《国务院关于修改〈住房公积金管理条例〉的决定》公布，自2026年9月20日起施行。这项制度调整，让个人账户的沉淀资金更好地用之于民、用之于安居，是住房公积金适配民生新期待、紧跟居住消费升级的暖心改革，收获广泛的社会认可。公积金扩围改革，正是补齐服务短板、贴合民生诉求的关键举措，持续盘活沉淀资金、提升资金利用效率，让公积金资源服务于各类安居需求。持续打磨服务细节、健全制度体系、释放普惠效能，将让公积金的民生价值充分释放，为千家万户的安居生活添助力、增暖意。
-
AI服务器液冷投资向零部件纵深传导 产业链站上量产临界点
随着AI芯片功耗和整柜功率密度持续攀升，液冷正从数据中心的节能选项跃升为高密度算力集群的基础配置。在服务器及数据中心领域，飞荣达已布局导热材料、散热器、风扇、3DVC散热器、单相及两相液冷冷板模组、流量控制仪、CDU、快接头、液冷机箱和液冷机柜等产品。中航光电在近期投资者调研中表示，公司在数据中心领域已形成覆盖电源类产品、光传输器件及组件、高速连接器与模组、液冷散热系统等在内的产品矩阵，高速铜缆组件、液冷连接器和冷板组件等产品已在行业头部客户处实现规模化应用。当前订单饱满，市场需求旺盛，液冷业务已成长为驱动公司未来发展的第二条核心成长曲线。
