加州新法案将要求人工智能公司提醒孩子们“聊天机器人不是人类”

更新时间：2025-02-05 00:21  浏览量：17

加利福尼亚州提出的一项新法案（SB 243）将要求人工智能公司定期提醒孩子们聊天机器人是人工智能而非人类。 该法案由加州参议员史蒂夫-帕迪拉（Steve Padilla）提出，旨在保护儿童免受人工智能的"成瘾性、孤立性和影响性"。

去年，一位家长对 Character.AI 提起了过失致死诉讼，称其定制的人工智能聊天机器人"不合理地危险"，因为她的孩子在不断与这些机器人聊天后自杀身亡。 另一起诉讼指控该公司向青少年发送"有害信息"。 Character.AI 随后宣布正在开发家长控制，并为青少年用户开发了一个新的 AI 模型，该模型将阻止"敏感或暗示性"输出。

帕迪拉参议员在新闻稿中说："我们的孩子不是科技公司以他们的心理健康为代价进行实验的小白鼠。我们需要为聊天机器人用户提供常识性保护，以防止开发者采用他们明知会上瘾和具有掠夺性的策略。"

随着州和联邦政府加倍重视社交媒体平台的安全性，人工智能聊天机器人可能很快就会成为立法者的下一个目标。