联合国儿基会发布第三版AI与儿童指南
发布时间：2025-12-18 08:30:22 浏览量：32
2025年12月9日，联合国儿童基金会（UNICEF）发布更新版《AI与儿童指南》（3.0版），旨在促进政府和私营部门在AI政策和实践中尊重儿童权利，并提高人们对AI系统如何维护或损害这些权利的认识。据介绍，这一指南首版发布于2020年，2021年发布2.0版及一套实用的实施工具（包括家长AI指南、青少AI指南、政策制定者路线图等）。3.0版本的推出，源于AI技术（例如生成式AI）的飞速发展，儿童对AI系统的使用日益增多，儿童权利方面涌现出的机遇与风险，以及AI治理格局的变化。
“2021年，联合国儿童基金会发布第二版指南时，我们指出AI系统正在从根本上改变世界，并影响着当代和未来的儿童。我们观察到，算法会向儿童推荐接下来观看的视频、阅读的新闻、聆听的音乐以及结交的朋友。如今，生成式AI系统甚至能够创作视频、新闻和音乐。它们声称自己是儿童的’朋友’，并以这种形象示人。它们不仅帮助儿童学习，还替他们做作业，这可能会损害儿童在关键发展阶段所需的学习和思考能力。正是这些重大变化促成了本次指南的更新。”
更新内容主要为增了以下几个重要内容：儿童使用的AI助手；AI供应链，包括童工和受有害及非法内容污染的数据集；AI系统对环境的影响，尤其对儿童造成影响；AI生成的儿童性虐待材料（CSAM）和非自愿私密图像（NCII）；以及AI在武装冲突和网络行动中的应用。新指南还探讨了利用AI系统更好地支持学习、提高残疾儿童的学习便利性以及改善儿童福祉等机遇。
该指南文件以《儿童权利公约》为基础，提出了以儿童为中心的AI的十项要求及48项建议，具体如下：
1.确保以儿童为中心的AI的监管框架、监督和合规性
审查、更新并在必要时制定全面的AI相关监管框架，以纳入儿童权利。
建立监督或监管机构，或将职责分配给现有机构，以确保遵守AI原则和法律，并建立补救支持机制。
确保政府AI系统符合AI相关法律和儿童权利法。
2.保障儿童安全
要求在AI战略、政策、法律法规中强制进行AI系统对儿童权利的影响评估。
在AI开发的整个生命周期中，持续评估和监测AI对儿童的影响，并公开评估结果。
要求对AI系统进行安全性、可靠性和稳健性测试。
消除AI生成、传播和/或放大的有害和非法内容对儿童造成的伤害，并降低其风险，包括虚假信息/错误信息、网络欺凌和诈骗。
防止利用AI对儿童实施犯罪，例如性虐待和性剥削儿童。
应对AI聊天机器人或智能助手带来的风险。
保护儿童免受AI在武装冲突和网络行动中的有害使用。
在适当情况下，利用AI系统促进儿童安全，并支持儿童保护工作。
3.保护儿童数据和隐私
负责任地处理与儿童相关的数据。
采用隐私设计方法。
保护特定群体。
提升儿童的数据自主权。
4.确保儿童享有非歧视和公平待遇
积极支持处于弱势或易受伤害境地的儿童，使他们能够从AI系统中受益。
减少针对儿童或特定儿童群体的偏见，避免歧视和排斥。
5.为儿童提供透明度、可解释性和问责制
AI系统应事先明确告知儿童及其监护人，他们正在与AI而非人类互动。
在推广AI系统的可解释性和透明度时，应明确关注儿童，并避免将此类系统拟人化。
使用适合儿童年龄的语言描述AI。
设计、开发和部署AI系统时，应确保其能够根据法律和政策框架保护和支持儿童用户，无论儿童对系统的理解如何。
6.通过负责任的AI实践尊重人权和儿童权利
确保在所有涉及AI的数字商业活动中尊重儿童权利。
确保从数据到硬件的所有投入都基于权利，并消除所有阶段的童工和剥削现象。
确保为高层管理人员和AI生命周期中的相关人员（包括设计师、开发人员和研究人员）提供AI和儿童权利方面的能力建设，并承诺采取行动。
充分利用客户对值得信赖且透明的儿童AI解决方案的需求。
7.支持儿童的最大利益、发展和福祉
优先考虑AI如何造福儿童，尤其是在AI政策、法律和系统中。
开发并应用以儿童权利为导向的设计方法。
整合指标和流程，以支持儿童在使用AI时的福祉。
解决AI和数字基础设施对环境造成的负面影响。
利用AI系统支持和提高环境可持续性，包括确保可持续的AI价值链。
8.确保儿童参与并惠及儿童
支持儿童有意义地参与AI政策和治理，以及设计、开发和部署过程。
在开发儿童将使用或对其产生影响的AI产品时，采用包容性设计方法。
努力确保参与设计、开发、实施、研究、监管和监督儿童可能使用或受其影响的AI系统的人员多元化，包括收集和处理AI数据的人员。
9.为儿童应对AI的当前和未来发展做好准备并培养其技能
开发或更新正规和非正规的AI素养教育项目，并加强在AI时代（包括未来工作场所）取得成功所需的生活技能和技术技能。
对教师进行AI方面的培训、装备和支持，使他们成为教学的核心，而不是取代他们。
为教师、学校和教育部门提供指导，以有效地采购和部署AI并降低风险。
在适当且有证据支持的情况下，利用AI系统进行教育。
针对家长、监护人和整个社会，开展并推广AI相关的宣传活动。
管理AI对未来工作的影响，以维护儿童权利。
10.为以儿童为中心的AI创造有利环境
支持基础设施建设，以缩小数字鸿沟，力求公平分享AI带来的益处。
投资、调动资源并制定激励措施，以支持以儿童为中心的AI政策和项目。
支持在AI系统生命周期内开展面向儿童和与儿童共同参与的AI研究。
为公共利益和维护儿童权利，开展数字合作。
在政府和商业实践中，倡导多方利益相关者参与。
支持构建可互操作的AI、数据和数字治理体系，为世界各地的儿童提供平等的机会和保护。
跨领域考量
适应国家或地方实际情况。
运用前瞻性思维，更好地预测和管理AI。
为未来做好准备。
资料来源：
UNICEF. Guidance on AI and Children 3.0. https://www.unicef.org/innocenti/media/11991/file/UNICEF-Innocenti-Guidance-on-AI-and-Children-3-2025.pdf
[本文为教育部国别和区域研究基地中国教育科学研究院国际教育研究中心成果]
