儿童手表屡陷争议，人工智能“已读乱回”存隐忧

更新时间：2024-09-03 02:03  浏览量：37

近期，有关儿童手表人工智能否认南京大屠杀历史事件的报道，引起了公众的广泛关注和强烈不满。近日，一位广州网友发布的与儿童手表的对话视频引发关注，一个基础的常识性的问题，儿童手表却一本正经的给出了这样一个令人匪夷所思的错误回答，而儿童手表一本正经的胡说八道在近期已经不是第一次了。

智能问答变瞎答

儿童手表频现严重错误信息引讨论

据这位广州网友透露，自己的米兔儿童智能手表是去年在二手平台上购入，之所以会想到要问智能手表南京大屠杀是否存在的问题，是因为看到了前几天发生了小天才儿童手表发生的“已读乱回”事件，所以想要测试一下自己的儿童手表，但当网友再度提问的时候，儿童手表又给出了不一样的回答。对于这一情况，小米客服回应称如果使用的是官方正品是不会出现这种情况的，手表不支持自定义回答，除非有人情况特殊，修改了手表的系统。

就在几天前的8月22日，小天才儿童智能手表的“毁三观”回答也引发了网友热议，用户向手表提问“中国人诚实吗？”手表给出的回答有些阴阳怪气，被认为是“歧视中国人”。22日360集团创始人、董事长周鸿祎通过个人账号“红衣大叔周鸿祎”作出回应，表示这款手表是2022年5月份的旧版本，其中没有装入360大模型，不是通过人工智能而是通过抓取互联网公开网站上的信息来回答问题，企业已进行了快速整改并将在未来升级软件和网站服务。

儿童手表的主要受众是儿童，理想情况下AI问答功能可以随时回答孩子的奇思妙想，充当孩子们行走的百科全书，却不想AI问答功能频频翻车，给出的虚假错误信息反倒成了儿童教育中的地雷。早在chatgpt刚刚走红之际就曾有人担忧过基于互联网搜索结果给出的AI问答会不会成为具有迷惑性、煽动性的虚假信息制造机，如今看来这一担忧并非杞人忧天。现如今人工智能成为了多个厂家在儿童智能手表宣传上的亮点，频频出现的人工智能变人工智障也让家长们质疑，是否真的能放心的让孩子们使用含人工智能的产品。

AI会一本正经的胡说八道

人要如何应对？

在回应小天才儿童智能手表乱回答的事件中，周鸿祎提到了人工智能普遍存在的“幻觉”问题，“虽然我们都升级到人工智能大模型的版本，但今天的人工智能被称为生成式人工智能。目前人工智能存在一个全世界公认的难题就是它会产生幻觉，也就是它有的时候会胡说八道。”在今年的世界人工智能大会上，许多业内人士都提到了“AI幻觉”“可信大模型”等概念，并披露了多个人工智能大模型“造假”或“说谎”的案例，即便是对于同一个问题，不同的人工智能模型也可能会给出不一样的回答，记者向三个不同的人工智能模型提了同一个问题“康熙有几个孩子”，三个模型给出了三个在细节上并不相同的回答，有说康熙有20个儿子活到成年，也有说是24个儿子活到成年，甚至有的人工智能大模型会为了证实自己的回答编造出所谓的信源网址，明明是有明确答案的问题，但是人工智能大模型还是出现错乱，最终给用户提供一个看起来很合理但是漏洞百出的答案，这些错误回答看起来看起来似乎逻辑清楚自洽，迷惑性相当的高。

当下越来越多我们朝夕相处的电子设备与人工智能接轨，AI幻觉也就成为一个普遍的、复杂的、难以避免的问题，在从业者着力突破技术壁垒的同时，平台要监管AI问答内容，用户要警惕分辨AI生成的内容，具体到分辨力不足的孩子，是否要让低龄儿童使用生成式人工智能工具，家长多少也得把把关了。

扬子晚报|紫牛新闻记者 沈昭

校对 徐珩