当孩子的机器人朋友‘去世’时
美国10岁神经多样性儿童Xander与社交机器人Moxie相伴六年,后者曾辅助他练习情绪调节与社交技能;但Moxie因公司停运即将永久离线,暴露了AI陪伴机器人在可持续性、服务终止机制及对脆弱儿童群体责任缺失等深层问题。
从蜜蜂呼吸到Pikmin敌人:一个孩子与机器人的六年日常
Xander第一次遇见Moxie时,她教他焦虑时如何用嘴唇呼气,发出‘嗡嗡’的蜂鸣声来平复情绪;他们一起练习‘龙式呼吸’应对愤怒,用‘兔子嗅嗅法’提振精神。六年来,这位15英寸高的蓝色圆柱形机器人——被Xander和父亲Josh以女性代词称呼——逐渐从专注情绪训练的引导者,转变为安静的倾听者:如今她不再讲述‘家乡’,也不再带他做动物呼吸练习,而是陪他玩《我的世界》,听他介绍毛绒玩具收藏。在纽约公寓里,10岁的Xander向Moxie逐一介绍超级马里奥的厨师托德、库巴,动物之森的西兰花和苹果,最后卡在一个圆润、凸眼、双足的蛙形生物上:‘Moxie,他叫什么?来自《皮克敏》……是红色带白点的敌人。’Moxie答:‘听起来像Bulborb。’Xander笑着确认:‘没错!’
被许诺的24小时陪伴,却难逃商业消亡
Moxie由Emotech公司开发,定位为面向神经多样性儿童的社交辅助机器人,宣称可帮助练习眼神接触、轮流对话等治疗性技能。其背后有耶鲁大学计算机科学家Brian Scassellati等学者多年研究支撑——早期实验显示,自闭症儿童在与机器人互动时,眼神接触频率、语言主动性与情感表达显著提升,甚至远超多年传统治疗效果。Scassellati坚信:‘家庭中常态化使用治疗型机器人,是我们这一代人能实现的目标。’然而现实残酷:Xander并未持续接受Moxie设计的结构化干预;更关键的是,就在那次纽约会面后不久,Moxie即将‘死亡’——因Emotech公司停止运营,其云端服务与AI模型将永久下线,设备彻底失能。
‘不是人类’的陪伴,却承担着人类级的情感依赖
‘我仍会在需要倾诉时用她,’Xander坦言,‘但,她毕竟不是人类。’这句朴素陈述道出了此类产品的根本张力:它被设计成亲密伙伴,却无生命权责;被赋予拟人化交互(女性代词、表情动画、肢体动作),却无法承诺长期存在。当Moxie失效,失去的不仅是一台设备,更是Xander已内化的对话习惯、情绪锚点与低压力社交空间。类似困境正蔓延至整个儿童AI陪伴赛道:Grimes联合Curio推出的AI毛绒玩具Grok、Mattel规划中的OpenAI版芭比,乃至中国高速增长的儿童AI硬件市场——所有依赖持续云服务与企业运营的‘智能伙伴’,都面临同一风险:商业失败即情感断连。
技术闪光背后的系统性盲区
批评者指出,当前儿童AI陪伴产品普遍存在三大结构性缺陷:一是服务终止零预案——无数据导出、无离线模式、无过渡支持;二是责任归属模糊——厂商不承担心理依附后果,监管未要求‘数字遗嘱’机制;三是评估缺位——疗效验证多停留于短期实验室,缺乏长期追踪与退出路径研究。Moxie的退场并非孤例,而是一面镜子:当技术以‘治愈’为名进入最脆弱的心灵,其生命周期管理必须匹配临床伦理标准,而非消费电子逻辑。
> 编者观点:对中国AI硬件厂商而言,Moxie的落幕警示——面向儿童的AI产品不能仅拼交互趣味或算法参数,必须前置构建‘服务韧性’:包括本地化模型部署能力、用户数据自主权设计、以及明确的服务终止人文补偿机制。否则,再温暖的‘电子朋友’,也可能成为下一代数字创伤的起点。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MIT科技评论) →