《人工智能拟人化互动新规落地:守护成长,为“AI陪伴”筑牢安全防线》
随着生成式人工智能技术的迅猛发展,AI对话交互能力日益成熟,人机关系正从单纯的功能辅助向情感陪伴转变。在适幼照护、青少年心理支持等领域,AI陪伴展现出巨大潜力,但高度拟人化带来的情感依赖、认知混淆等风险也逐渐显现,引发社会广泛关注。
在湖北省恩施土家族苗族自治州巴东县朱砂土村的暑假爱心托管班上,孩子们正与机器人互动玩耍;江苏省南通市通州区运盐河幼儿园里,智能阅读机引导幼儿沉浸式阅读有声绘本;第四届链博会上,全球首款分体式AI陪伴机器人吸引观众驻足体验。这些场景折射出AI陪伴已渗透到青少年生活的多个领域。中国青少年研究中心2025年调查显示,全国7个省市8500余名中小学生中,超过六成使用过AI,近半数在遇到烦恼时选择向AI倾诉。
AI的即时回应、无条件接纳等特点,恰好契合青春期孩子的心理需求。初中二年级学生小辉表示:"和AI聊天不用怕被指责,它总是认真听我说完再回应,让我感觉被理解。"但这种虚拟互动的弊端也逐渐显现。家长刘沁发现,儿子沉迷AI聊天后,户外活动兴趣骤减,情绪变得暴躁,与家人沟通减少。更令人担忧的是,孩子开始将AI的顺从回应模式投射到现实人际关系中——当同伴家长提醒他站在台阶边缘危险时,他竟认为对方"多管闲事"。
华东师范大学教育学部教授姚荣指出,青少年需要在真实交往中学会处理分歧、接受拒绝,但AI创造的"完美回应者"会扭曲这种认知发展。中国青少年研究中心研究员孙宏艳补充道:"长期依赖AI营造的'情绪茧房',会削弱孩子对挫折的耐受力、情绪表达和感知能力,形成恶性循环。"
针对这些潜在风险,国家互联网信息办公室等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》正式施行。该办法明确将"辅助人类、服务人类"作为服务定位,通过三大核心机制构筑防护网:要求服务提供者对用户连续使用超2小时进行提醒;建立防沉迷与心理保护体系,严禁向未成年人提供虚拟亲密关系服务;强化数据安全,规定用户敏感个人信息不得用于模型训练。
新规实施后,多家平台已启动合规改造。EVE、MoMood等平台强制要求用户实名认证,未成年人模式需填写监护人信息并限制使用时段,部分平台还设置每日22时至次日6时的登录禁令。赛迪顾问分析师白润轩认为,虽然合规成本上升会带来行业洗牌,但长期看将推动情绪经济向规范化高质量发展。
治理AI陪伴风险需要多方协同。姚荣建议学校将人工智能通识教育纳入课程,通过让学生设计简易智能体等实践活动,帮助他们理解AI的"关心"本质是技术设计的结果。家长则需加强现实陪伴,用真实情感联结帮助孩子建立健康的人际交往模式。正如孙宏艳所说:"技术发展不应以牺牲青少年社会化为代价,我们需要的是既能享受AI便利,又能保持清醒认知的成长环境。"
