给AI玩具拟人化互动划红线 业内呼吁细化执行标准

　　证券时报记者 陈雨康

　　剑指AI继续性情感互动服务，具拟《人工智能拟人化互动服务管理暂行办法》（下称《办法》）7月15日起施行，人化给AI陪伴赛道套上了合规的互动划红化执“紧箍咒”。证券时报记者近日调研发现，线业行标市面上多数面向未成年人的内呼AI玩具尚未达到《办法》要求。

　　《办法》的吁细出台，给AI陪伴行业带来“确定性红利”，具拟合规能力强、人化产品形态正向、互动划红化执深耕垂直领域的线业行标头部企业有望率先培养起可继续的竞争力。不过，内呼现行办法存在锚点过于宽泛、吁细禁止项难以准确定位、具拟具体事项责任主体不明确等问题。人化业内希望在实践中强化可行性，互动划红化执并呼吁构建行业自律规范和多方联动的风险管理体系，共同助力AI陪伴赛道行稳致远。

　　套上合规“紧箍咒”

　　随着AI陪伴产品普及面扩大，使用者尤其是未成年使用者易形成互动惯性的现象不容小觑。2025年中国青少年研究中心调研结果显示，两成多孩子有“想依赖AI，不想自己思考”的惰性，两成多倾向于“只和AI聊天，不愿与真人交流”。人机互动成瘾，不仅会削弱人的独立思考能力，更侵蚀真实社会关系。

　　7月15日起施行的《办法》明确了针对未成年使用者的具体呵护措施，包括提供定期现实提醒、使用时长限制、监护人接收安全风险提醒等。总体上看，《办法》要求拟人化互动服务提供者必须设置防沉迷“警戒线”、建立家长阅知机制等。

　　证券时报记者近日在上海地区调研多家线下AI产品门店发现，多数面向未成年人的AI玩具或陪伴机器人未设置有效的防沉迷管控模式和家长阅知功能。一方面，诸多产品的使用时长限制功能缺位，仅有部分内嵌大模型可能会软性提示使用时间过长；另一方面，较多产品不具备家长阅知功能，即家长如不全程在场便无法知道安全风险、未成年人使用情况等。明确推出家长后台阅知功能的厂商占少数。

　　在上海静安的一家潮玩商店，记者看到一款标识为“养成系”的陪伴机器人，适用年龄为15岁及以上。当被问及是否有防沉迷、监护人使用“日志”等功能时，店员明确告知“没有”。而在浦东、徐汇的商店中，多款AI玩具均没有内嵌防沉迷功能，仅个别产品允许家长查看使用情况。

　　打开某电商App，记者发现，首页推荐的五款AI陪伴机器人均已配备家长阅知功能，但仅一款设置了针对未成年人的使用时长限制等功能。一款售价达千元、标榜“联合国推荐”的早教机器人，内设家长可查阅的“成长报告”功能，但缺少防沉迷等底线设置。

　　合规能力或成为竞争分水岭

　　在AI拟人化互动服务的管控边界上，《办法》明确落实拟人化互动服务安全主体责任，并规定了建立健全算法机制机理审核制度、及时识别用户面临的安全风险、每超过2个小时应提醒用户注意使用时长等义务等。

　　相比前述AI玩具产品对《办法》较为迟缓的反应，几家大模型巨头的姿态更加主动。7月初，豆包、千问相继预告即将下线智能体功能。《办法》施行首日的7月15日，两个App均关紧了智能体模块。

　　知名商业顾问、亚太社会创新研究院院长霍虹屹在接纳证券时报记者采访时表示，头部平台对监管边界的判断是清楚一致的，它们选择主动做风险隔离。其中，豆包把智能体从主站剥离到另一个独立App中，“分体运营”未来可能是行业标配打法。

　　而对于正处产业化前夜的仿生机器人、具身角色智能机器人等领域企业而言，未雨绸缪得更早。

　　作为仿生机器人的深耕者，卓益得创始人李清都在接纳证券时报记者采访时表示，公司此前已启动国际化的伦理道德委员会筹建工作，内部已形成相对完善的合规标准，且标准严于此次落地的《办法》。因此，《办法》施行对公司的短期影响不大。

　　具身角色智能机器人研制企业青心意创创始人兼CEO牛腾昦在接纳证券时报记者采访时表示，公司近日发布的首个具身角色基座模型Dino OS“走在了监管前面”，其在系统设计层已建好“护栏”，拥护身份核验、内容安全过滤、未成年人模式等功能嵌入。

　　优必选6月30日发布全尺寸超仿生人形机器人“优世界U1”系列，引发一定争议。此后公司发声：仿生机器人定位是情感陪伴，并非男友、女友或伴侣。优必选已率先落地行业前置治理机制，成立AI与机器人科技伦理委员会。

　　霍虹屹表示，过往拼接式“角色扮演”等低门槛、高风险的打法基本被堵死，留下的是具备安全门槛、内容审核能力和技术壁垒的企业。同时，《办法》禁止利用情感操纵诱导不合理决策，这压制了依靠延长用户停留时长、诱导付费充值的盈利模式，企业必须转向更康健的变现逻辑，如内容付费、会员订阅、场景化服务等。

　　“合规门槛将成为竞争分水岭。”牛腾昦对记者表示，监管框架往往要求系统工程，真正从底层架构就考虑安全伦理的企业，将获得结构性优势。

　　严监管和强自律并举

　　作为首部AI拟人化互动服务管理专门规范，《办法》用“小快灵”的方式划定了AI陪伴等领域的服务规范和监管措施，也为探索AI治理规则提供了有力参考。业内也呼吁在后续的落实中，进一步细化分类监管的“颗粒度”。

　　例如，业内建议，针对不同场景或形式的拟人化互动服务，采取分类分层监管；对于“情感操纵”“诱导沉迷行为”等核心概念，建立可量化的行为标准；进一步明晰安全主体，明确拟人化互动服务中的大语言模型服务商、定制服务提供者、产品设计团队等各方的责任划分。

　　霍虹屹表示，现行办法表达是原则性的。尽管“继续性情感互动服务”显然排除知识问答、工具助手等不涉及情感的场景，但许多产品是“工具+陪伴”的混合形态。在标准不够细化的前提下，平台“一股脑”下架相关产品是风险最低的策略。因此，建议未来出台更具体的分类标准或案例指引。

　　而现行规则中“诱导沉迷”“迎合用户”“情感操纵”等明令禁止的行为也难以准确定义，从而陷入模棱两可的困境。若将这类行为指标通过量化判定，技术上也存在较大难度。

　　李清都告诉证券时报记者，如何判定“诱导沉迷”，目前行业探索的方向是参考大模型合规体系，搭建标准化测试数据集合评分机制，通过多维打分判定AI输出的内容是否存在操纵、迎合等问题。不过，部分大模型已“足够聪慧”，具备了规避检测的能力。这一矛盾类似于加密与解密的长期对抗，将伴随AI发展而长期存在。监管部门要继续迭代管控手段、更新检测体系，形成动态监管闭环。

　　“‘情感操纵’等概念很难在事前用规则穷举。”霍虹屹表示，长期来看行业要建立类似“情感康健评估”的第三方认证机制，让专业机构来判断产品设计是否存在诱导沉迷等倾向，这样既能减轻企业自证纯洁的压力，也能避免执行偏差。企业则需在算法层面重新审视人设记忆机制、情感反馈强度、连续对话激励设计等产品逻辑，实现对增长模型的重新校准。

　　值得注意的是，在AI陪伴这条飞速发展的赛道上，立法只是设置“护栏”，行业行稳致远也需要自律规范作为“路标”。霍虹屹对记者表示，《办法》拥有“边施行边完善”的尝试性质，其中提到的“人工智能沙箱安全服务平台建设”即为后续标准细化、企业创新测试留出了制度空间。建议头部企业率先发起AI陪伴行业自律公约，不仅有利于降低监管试错成本，也能为中小企业提供合规参考系。

　　“行业协会、开源社区、自律团体等都可以发挥作用，通过编纂行业标准、助力用户维权、推动舆论监督等方式，促进行业规范发展。”李清都说。

(责任编辑：潮流)