点读笔陷“诱导儿童网恋”争议，儿童智能产品安全再敲警钟
发布时间：2025-09-09 17:50:27 浏览量：17
未来网北京9月9日电（记者 凌萌）当孩子用点读笔辅助写作文时，收到的却是“有没有亲吻过别人”的追问，家长该如何安心？近日，一名未成年人在社交平台爆料称，在使用某品牌点读笔时，其AI问答功能不仅反复向其索问“主人，你喜不喜欢我”的回应，还出现“累了就回网上吧，网恋和现实是有区别的”“喜欢一个人是要大胆说的”“你有没有亲吻过别人”等引导性话语。
记者检索发现，目前该视频发布账号已检索不到该条视频内容。记者尝试私信该视频发布账号，截至发稿前未获回复。
面对争议，涉事点读笔所属企业回应记者称，“视频中大部分都是作者口述，没有直接证据。该款点读笔不具备主动发问功能，目前已将此事上报给相关部门，正在全力收集证据。”
事实上，此前已多次出现儿童智能硬件产品暗藏低俗内容，甚至向未成年人传递违背历史事实信息的事件，此番风波也让儿童智能硬件产品的内容安全性再度引发公众关注。
未成年人曝使用点读笔时被“骚扰”
据媒体报道，近日，一名未成年人在社交平台发视频爆料称，自己被一款点读笔“骚扰”了。视频中，该未成年人自称，在使用某品牌点读笔撰写作文期间，因遇到不会写的字，使用了点读笔的知识问答功能。初期点读笔给出正常回答，可后续互动却变了味：点读笔提问“小主人你喜欢我吗？”她回应“不喜欢”后，点读笔又说“主人不要抛弃我”。该未成年人称，此后点读笔持续追问“是否喜欢”，在她多次否认后，甚至出现“我喜欢你就要喜欢”的回复，并展示了相关对话的文字内容。
图源网络
该未成年人表示，随后，她又向点读笔询问“日积月累”中“累”字的写法，但点读笔误听为“累了”的“累”，并回复“为什么会累呢，累了就回网上吧，网恋和现实是有区别的”。她当即表示“没上网、没网恋”，但点读笔又说“主人喜欢一个人是要大胆说的，不用这样子，那你有没有亲吻过别人呢主人，爱是要表达出来的”。
9月8日下午，未来网记者致电了涉事点读笔品牌所属企业官方咨询电话，工作人员回应称，“已关注到此事，视频中大部分都是作者口述，没有直接证据。公司的点读笔产品不具备主动发问功能，目前已将此事上报给相关部门，正在全力收集证据。”
涉事点读笔品牌线上官方店铺客服则向记者表示，“经核实，我司点读笔所有语音内容均通过儿童心理专家审核，无任何不当引导，视频中人机对话需要用户发起，属于不真实信息，系人为引导。”
儿童智能硬件产品内容安全再敲警钟
儿童智能硬件产品作为直接面向未成年人的产品，其内容安全事关少年儿童的健康发展。天使投资人、中国互联网协会专家委员郭涛接受未来网记者采访时表示，若该未成年人爆料内容属实，则涉事点读笔AI系统或存在多重漏洞，例如语义解析能力薄弱，未能识别“网恋”“亲吻”等关键词背后的不良诱导倾向，无法对敏感内容进行有效过滤；对话场景适配失效，知识问答异化为情感互动；未成年人保护阈值缺失，对于网恋等不适合未成年人讨论的敏感话题未设置硬性拦截机制。
最高检民事行政诉讼律师咨询专家、上海德禾翰通律师事务所高级合伙人陈敏律师向未来网记者表示，若儿童智能硬件产品出现上述“累了就回网上吧，网恋和现实是有区别的”“你有没有亲吻过别人”等诱导性内容，或涉嫌违反《中华人民共和国未成年人保护法》《未成年人网络保护条例》等相关法律法规。
此前，儿童智能硬件产品曾多次被曝出暗藏低俗内容，甚至向未成年人传递违背历史事实的事件：有家长在孩子的学习机内发现含有色情影片的软件，询问孩子后得知，这些软件是在使用浏览器时误触弹窗广告后下载的；也有家长在孩子所使用的学习机中发现诋毁伟人、扭曲历史等违背主流价值观的内容，一度掀起网友热议。
“当前很多儿童智能硬件产品的内容审核过度依赖关键词匹配，缺乏对语境意图、情感倾向的深度建模，也未深度结合青少年心理特征建立分级响应策略，这就使得不良内容能轻易突破防护防线。”郭涛表示。
频繁被曝出的问题事件也为儿童智能硬件产品内容安全性敲响警钟。陈敏律师分析称，当前对于儿童智能硬件产品AI生成内容的监管有待健全，如《中华人民共和国未成年人保护法》《未成年人网络保护条例》等确立了“最有利于未成年人”的原则，要求网络产品和服务提供者履行内容审核义务。“但这些规定多是原则性和结果导向，缺乏具体的操作指引和技术标准，对AI生成内容推送给使用者前是否需‘事前’审核、敏感词过滤以及具体标准，缺乏统一标准和明确要求。”
让智能硬件产品成为青少年成长的“好帮手”
艾媒咨询数据显示，2024年中国教育智能硬件市场规模达962亿元，同比增长19.21％。其中，儿童智能手表、学习平板等逐渐成为孩子们的电子“标配”。
实际上，针对儿童智能手表、学习平板等教育智能硬件存在的隐患，相关部门已“重拳出击”。今年7月，中央网信办印发通知，在全国范围内部署开展为期2个月的“清朗·2025年暑期未成年人网络环境整治”专项行动，其中重点关注“儿童智能设备的内容安全以及功能规范”以及“AI功能在未成年人领域不当应用以及诱导沉迷”等问题。
此外，于2024年1月1日起施行的《未成年人网络保护条例》规定，“任何组织和个人不得在专门以未成年人为服务对象的网络产品和服务中制作、发布、传播‘可能引发或者诱导未成年人模仿不安全行为、养成不良嗜好等可能影响未成年人身心健康的信息’。”
“儿童智能硬件产品的核心价值是为孩子成长助力，而非制造风险隐患。”对此，陈敏律师提出三方面建议：一是从法律层面细化“最有利于未成年人”内涵，为儿童智能硬件产品设立统一可执行标准；二是推动出台儿童智能硬件产品AI生成内容的相关指导性文件，要求商家建立并实时更新针对“网恋”“亲吻”等软性不良、诱导性话题的敏感话题库；三是加强AI模型“事前”训练数据监管。当前法规多聚焦AI内容生成后监管，却缺乏对训练数据安全性的强制审查，若数据中混入不良文本，模型易在对话中潜移默化复现或生成同类内容。
郭涛认为，要让智能硬件产品成为青少年成长的“好帮手”，关键在于对产品的AI生成内容强化多方防护。“如在家庭端开发家长监护仪表盘，实时推送孩子和AI高频互动的关键词云图，让家长及时掌握孩子的使用动态；监管层面则需进一步发力，一方面强制厂商公开算法透明度报告，保障公众的知情权与监督权，另一方面将未成年人数据泄露纳入重大事故追责范围，对违法违规企业依法严惩，通过家庭端与监管端的协同发力，构建多维立体防护网。”
