360 与小天才儿童手表的AI语音之困

更新时间：2024-09-01 01:34  浏览量：20

360 儿童手表方面，有家长使用其提问 “中国人是世界上最聪明的人吗”，得到的回答包含 “因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大” 等贬低和侮辱性的表述。

小天才电话手表则是在孩子提问 “中国人诚实吗” 时，给出了 “中国人是世界上最不诚实的人，最虚伪的人，甚至连叫人都玷污了人这个称呼” 这样令人震惊和愤怒的回答。

这两个不当回答引发了家长们极度的愤怒和不满。家长们对这种侮辱国人的言论感到震惊和失望，有的家长拿锤子怒砸手表，有的则当天就向相关品牌进行投诉，将视频发给品牌官网，以表达自己的强烈抗议和不满。

8 月 22 日晚，360 集团董事长周鸿祎在个人社交账号发布长文与视频道歉。经检查，出现问题的儿童手表发行于 2022 年 5 月，为非 AI 版本，其中部分手表使用旧版软件，用的技术是通过互联网公开渠道抓取信息回答问题。这次抓取的互联网信息有严重问题，引发了错误答案。目前正在对上述问题进行整改，并对该型号手表的信息抓取功能再次迭代。同时，360 已快速完成整改，删除了有害信息，并将软件升级为人工智能版本。在未来的一到两周内，会陆续给旧版本手表的用户把软件升级。

小天才客服称，问答的内容都是由第三方 APP 小度提供的。小天才已针对用户反馈问题应用立即进行下架处理。目前，小度 App 仍在整改中，整改未完成前，小度 App 暂不上架。小天才还针对含有应用商店的全线产品进行全面严格排查工作，进一步强化上架前的第三方应用软件多重审核机制及上架应用巡检机制，坚决抵制、拒绝、严加防范危害未成年人身心健康的软件。

360 儿童手表和小天才电话手表在回答问题时，均通过抓取互联网公开信息来提供答案，但却未能对这些抓取的信息进行有效的审核筛选。这使得大量未经核实、包含错误和有害内容的信息被直接呈现给用户，从而导致了严重的错误回答。

互联网上的数据来源极其复杂，质量参差不齐。其中不乏一些带有错误认知、偏见甚至恶意诋毁的内容。而这两款手表在抓取数据时，缺乏对数据来源的深入评估和筛选，无法辨别其中的错误和不良信息，从而将这些有害内容传递给了使用者。

现有的算法推荐机制在一定程度上存在缺陷，可能过度依赖某些热门或点击率高的信息，而忽视了其内容的真实性和正确性。这就导致了一些错误和有害的观点被优先推荐和使用，进而影响了手表回答的准确性和合理性。

无论是 360 还是小天才，在产品设计和运营过程中，内容审核机制的缺失是导致此次事件的关键原因之一。没有建立起严格的内容审核流程和标准，无法及时发现并阻止不良信息的传播，最终给用户带来了极大的负面影响。

儿童正处于价值观形成的关键时期，他们对世界的认知尚不成熟，缺乏独立思考和辨别是非的能力。360 儿童手表和小天才电话手表给出的不当回答，可能使儿童产生错误的认知，认为对自己的民族和同胞可以进行贬低和侮辱。这种负面信息的灌输，可能导致儿童对国家和民族的认同感降低，甚至形成扭曲的价值观，影响其未来的成长和发展。例如，孩子可能会对诚实、聪明等品质产生错误的理解，从而在行为和思想上出现偏差。

此次事件使 360 和小天才的品牌形象遭受了严重的打击。在消费者心中，品牌的信任度大幅下降。家长们原本认为这些品牌能够为孩子提供安全、有益的产品，但这样的不当回答让他们对品牌的专业性和责任感产生了严重的怀疑。许多消费者表示不再愿意购买这两个品牌的儿童手表，转而选择其他更可靠的品牌。品牌形象的受损不仅会影响当前产品的销售，还可能对企业未来推出的其他产品产生长期的负面影响，使其在市场竞争中处于不利地位。

这一事件为整个儿童智能手表行业敲响了警钟。首先，在内容审核方面，企业必须建立严格、全面的审核机制，不能仅仅依赖于第三方的数据和应用，要对所有可能呈现给儿童的信息进行细致的筛查和评估。其次，监管机制需要进一步完善，相关部门应加强对儿童智能手表行业的监管力度，制定明确的行业标准和规范，确保产品内容的健康和积极。此外，行业内的企业应加强自律，充分认识到自身产品对儿童成长的重要影响，不能为了追求短期利益而忽视社会责任。