澳大利亚监管机构称人工智能聊天机器人对儿童构成“明确威胁”

发布时间：2025-09-09 17:15:49  浏览量：20

澳大利亚网络安全监管机构表示，那些煽动自杀或进行露骨性对话的人工智能聊天机器人，对儿童构成 “明确且现实的威胁”。与此同时，该机构还推出了针对这类服务的新监管规则。

这些措施是澳大利亚一系列严格数字限制政策中的最新举措，其中包括全球首个针对 16 岁以下人群的社交媒体禁令。该禁令将于 12 月生效，覆盖范围包括一系列服务平台，例如 Meta 平台公司（Meta Platforms Inc．）旗下的 Facebook（脸书）和 Instagram（照片墙），以及 YouTube。

澳大利亚网络安全专员朱莉・英曼・格兰特（Julie Inman Grant）在周二的一份声明中指出，儿童接触到 “不适合其年龄段的恶劣内容” 的年龄正越来越小。英曼・格兰特表示，她了解到有 10 岁儿童与这类人工智能 “伙伴” 进行涉性互动，而目前这类聊天机器人大多处于无监管状态。

根据新规则，展示或传播色情内容及其他 “高影响力不良内容” 的网站，必须应用年龄验证技术，防止儿童获取此类内容。应用商店必须确保应用程序获得恰当的分级，且所有应用下载环节均需设置年龄确认机制。

该规则适用于一系列在线服务，包括社交媒体平台、游戏网站和人工智能服务。违反规则的行为最高可被处以 5000 万澳元（约合 3300 万美元）的罚款。

英曼・格兰特表示：“我不希望澳大利亚的儿童和青少年，成为那些未经任何防护措施就被推向市场的强大技术的受害者。”