防止儿童上网受害，人工智能出力

发布时间：2025-09-01 20:40:00  浏览量：20

据美国全国广播公司（NBC News）报道，全球网络安全运动为一系列人工智能产品的出现铺平了道路，这些产品旨在让孩子远离互联网上潜在的有害事物。

英国出台了一项名为《网络安全法》的新法案，要求科技公司承担注意义务，保护儿童免受不适宜年龄内容、仇恨言论、欺凌、欺诈和儿童性虐待内容（CSAM）的侵害。违规公司可能面临高达其全球年收入10%的罚款。

除此之外，旨在保障儿童网络安全的具有里程碑意义的法规正在美国国会迅速审议。其中一项名为《儿童网络安全法案》的法案将规定社交媒体平台有责任防止其产品伤害儿童——类似于英国的《网络安全法案》。

监管机构的这一举措正日益促使几家大型科技公司反思。几大社交媒体平台Spotify、Reddit和X都实施了年龄保证系统，以防止儿童接触色情或不适当的内容。

此类监管措施遭到了科技行业的批评——尤其是因为担心它们可能会侵犯互联网用户的隐私。

而所有这些年龄验证措施的核心是一家公司：Yoti。Yoti研发的技术可以捕捉自拍照，并利用人工智能根据面部特征验证用户的年龄。该公司表示，其人工智能算法已对数百万张人脸进行训练，可以估算出13岁至24岁人群的年龄，准确率在两年内。

该公司此前曾与英国邮政局合作，希望借英国政府发行数字身份证的广泛推广之机，从中获利。Yoti并非身份验证软件领域的唯一一家公司，其他参与者包括Entrust、Persona和iProov。然而，在英国新政下，该公司一直是年龄保障服务领域最突出的提供商。

英国儿童保护慈善机构NSPCC的儿童网络安全政策经理拉尼·戈文德 (Rani Govender)表示，在不侵犯用户隐私的情况下对用户进行身份验证的技术“已经存在”。

她表示：“科技公司必须做出深思熟虑、合乎道德的选择，选择既能保护儿童免受伤害，又不损害用户隐私的解决方案。最好的技术不仅仅是满足需求，它还能建立信任。”

为防止儿童遭受网络危害而涌现的新技术浪潮并不仅限于软件。本月初，芬兰手机制造商 HMD Global 推出了一款名为Fusion X1的新智能手机，该手机使用人工智能阻止儿童拍摄或分享裸体内容，或从相机、屏幕和所有应用程序中查看色情图片。

这款手机采用了专注于儿童安全的英国网络安全公司SafeToNet开发的技术。

HMD家庭垂直领域副总裁詹姆斯·罗宾逊 (James Robinson) 表示：“我们认为在这个领域还需要做更多努力。”他强调，HMD在《网络安全法》生效之前就提出了儿童设备的概念，但他指出，“很高兴看到政府采取了更大的举措。”