北京上海南京广州天津西安医院黄牛号贩子跑腿代挂号

广州市皮肤病防治所黄牛号贩子票贩子代网上预约代挂号电话陪伴型AI越来越“懂你”,人机关系的新边界在哪?

01-02 新浪新闻

黄牛号贩子跑腿代挂号(13241153586)微信需要挂号联系客服(13241153586)各大医院服务项目!专家挂号,办理住院加快.检查加快,产科建档,指名医生挂号北京,上海,南京,天津.广州,各大医院代挂号

  近年来,伴随情感计算、自然语言处理、多模态交互等人工智能技术发展,人工智能拟人化互动服务通过模拟人类人格特征、思维模式和沟通风格,实现从“机械对话”向“深度共情”跨越,成为藏在用户屏幕背后的“情绪搭子”。但与此同时,人工智能拟人化互动服务也面临信息安全、隐私侵犯、社会伦理、未成年人保护等多重风险挑战。

  中央经济工作会议提出,深化拓展“人工智能+”,完善人工智能治理。近日,国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》(以下简称《办法》),并向社会公开征求意见。意见反馈截止时间为2026年1月25日。

  中国信息通信研究院政策与经济研究所副所长李强治表示,《办法》有效回应人工智能情感陪伴、心理疗愈等应用风险,体现了“在发展中规范,在规范中发展”的治理智慧,对于构建健康、公平、有益的人机关系具有重大意义。

  拟人化互动服务面临多重风险挑战

  当前,以陪伴型AI为代表的人工智能拟人化互动服务展现出堪比人类的情境理解和共情表达能力,塑造出一种新型的人机关系与社会交往模式。

  同时,拟人化互动服务在快速发展中也面临一系列风险与挑战,包括:数据隐私方面,承载用户最私密情感与思想的数据面临被滥用、泄露的风险;伦理方面,高度拟人化设计易导致用户产生非理性情感依赖,甚至引发现实社交疏离;安全保障方面,缺乏有效的年龄识别与内容过滤,危及脆弱群体的心理健康乃至人身安全。

  国家互联网应急中心副处长张震表示,拟人化互动服务作为人工智能技术应用的新形态,具有鲜明的技术特征和显著的风险特征。例如:情感交互的深度性,不同于传统的信息查询、内容生成等功能性服务,拟人化互动服务通过算法模拟人类情感反应机制,能够与用户建立情感联结,对用户心理状态和行为模式产生深层次影响;用户关系的持续性,拟人化互动服务往往涉及长期性、高频次的交互过程,用户可能与人工智能系统建立类似人际关系的情感纽带,这种持续性互动关系使得潜在风险不断累积和放大。

  “值得一提的是,未成年人处于认知发展阶段,老年人面临数字鸿沟挑战,这些群体在使用拟人化互动服务时,更需要适当的引导和保护机制,以防止产生过度依赖。此外,拟人化互动服务在交互过程中往往较直接地输出内容,价值观传递更加隐蔽和潜移默化,对用户世界观、人生观、价值观的影响更为深远。”张震说。

  西南政法大学校长、中国法学会副会长林维表示,在此背景下,制定《办法》,有利于促进人工智能拟人化互动服务有序开展,引领人工智能“负责任创新”,为构建“以人为本”的人工智能治理体系提供重要的制度支撑。

  构建多维度风险防控体系

  在林维看来,《办法》精准识别并系统回应了由“拟人化”和“情感交互”两大核心特征所衍生的突出风险,以“人机边界模糊”为治理重点,构建多维度风险防控体系。

  《办法》提出,建立身份透明制度,划定拟人化安全红线,精准防范人机边界模糊引发的认知混淆、信任侵蚀、人格权侵害及伦理越界等风险。“以显著标识义务为核心的身份透明制度重在保障用户知情权与选择权,为法律追责提供清晰起点,能够有效遏制技术滥用的匿名性庇护,从源头降低认知混淆与信任侵蚀风险。”林维说。

  拟人化互动服务因其高度情感回应性与陪伴特性,具有天然的沉迷风险。《办法》提出,服务提供者应当显著提示用户正在与人工智能而非自然人进行交互。在用户初次使用、重新登录时,应以弹窗等方式动态提醒用户交互内容为人工智能生成。事中阶段,要求设置中断冷却提醒功能。要求用户连续使用服务超过一定时长时,应以弹窗等形式提醒用户休息,旨在周期性打破算法营造的沉浸式幻觉。

  在加强特殊群体保护方面,《办法》提出,拟人化互动服务提供者应当建立应急响应机制,发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话,并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户,提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。

  与此同时,《办法》还着重强调对用户交互信息的严格保护。“情感类个人信息能够映射用户的内心世界、情感弱点与潜意识倾向,不当利用可能会引发心理操控、待遇歧视及情感勒索等风险。同时,‘情感计算’相关技术可能被用于提供成瘾性服务,使用户在无意识中暴露更多的敏感信息。因此,对用户交互数据施加更严格的目的限制、安全存储与使用禁令,是人格权保护在数智时代的延伸。”林维说。

  迈向人机和谐共生

需要挂号联系客服 北京上海南京广州天津西安医院黄牛号贩子跑腿代挂号


X

截屏,微信识别二维码

微信号:13241153586

(点击微信号复制,添加好友)

  打开微信