YouTube上AI生成的儿童惊悚视频泛滥，平台监管面临挑战

发布时间：2025-05-05 20:16:08  浏览量：22

IT之家 5 月 5 日消息，YouTube 作为全球最大的视频分享平台，如今面临着一个棘手的问题：如何在提供丰富娱乐内容的同时，确保儿童免受不当内容的伤害。近期，《连线》杂志的一篇最新调查报道揭露了一个令人不安的趋势，引发了公众对 YouTube 儿童内容安全性的担忧。

据报道，一些以儿童为目标受众的 YouTube 频道正在利用当下便捷易得的人工智能技术生成令人不安的视频内容。这些频道，例如“Go Cat”，表面看起来充满了吸引孩子的可爱角色和欢乐氛围，但实际上却隐藏着令人毛骨悚然的情节。这些视频以孩子们熟悉的卡通形象如小黄人、托马斯小火车等为基础，通过 AI 技术进行重新创作，将其改造成带有恐怖元素的形象，甚至出现了小黄人被核废料溶解变成下水道蠕虫怪物、可爱的猫咪目睹父母被枪杀等令人毛骨悚然的画面。

据IT之家了解，尽管 YouTube 声称所有内容都必须遵守其社区准则，其中包括禁止向儿童展示不当内容，但实际执行情况却并不乐观。随着 AI 视频生成技术的飞速发展，即使某个频道被封禁或被取消广告收益，其背后的创作者也能轻松地创建新的频道并继续上传类似的视频。此外，这些视频虽然获得了大量观看次数，但评论区中却存在大量可疑的机器人评论，这表明这些视频的受欢迎程度可能被人为夸大，而这也可能是这些频道能够不断重生的原因之一。

面对这一问题，专家建议家长们应更加积极地参与到孩子的媒体消费过程中，确保他们观看的内容是适合其年龄的。同时，当遇到明显不适宜的视频时，应充分利用举报工具，以便平台能够及时审查并采取措施。