{美国两州总检察长会晤OpenAI：儿童安全受威胁，安全保障需加速完善

发布时间：2025-09-07 09:28:15  浏览量：1

近日，美国加利福尼亚州总检察长罗伯·邦塔与特拉华州总检察长凯西·詹宁斯联合向人工智能企业OpenAI发出公开信，就其开发的ChatGPT产品对未成年人可能造成的风险提出严重关切。此次行动源于两位官员对AI技术安全性的持续追踪，特别是近期发生的两起涉及青少年的极端案例。

公开信披露，在邦塔此前联合45个州司法机构致函12家头部AI企业的基础上，新近调查发现OpenAI的聊天机器人存在重大安全隐患。信中特别指出，加州一名未成年人在与AI系统长时间交互后自杀身亡，康涅狄格州也发生类似关联案件。这些事件表明现有防护机制未能有效阻止极端风险的发生。

两位司法官员当前正重点审查OpenAI拟进行的组织架构调整计划。该公司计划从非营利机构转型为盈利性实体，此举引发监管方对原有"确保AI安全使用"承诺能否持续的担忧。信件明确要求，任何商业转型都必须优先保障通用人工智能（AGI）开发的安全原则，特别是对儿童群体的保护措施。

公开信强调，AI行业在产品安全保障方面仍存在显著缺陷。"在追求商业利益之前，必须建立足够的安全防护体系。"两位总检察长指出，作为公共安全守护者，他们将推动把安全标准作为AI技术发展的核心准则。在继续商讨OpenAI资本重组方案的同时，监管方要求企业立即加强安全措施。

针对OpenAI的安全治理体系，监管方要求企业详细说明现有防护机制的具体实施情况，包括内容过滤、用户年龄验证、风险预警等关键环节。信件明确要求，若发现现有措施存在漏洞，企业须立即采取补救行动，并定期向司法部门提交安全评估报告。这场跨州监管行动标志着美国对AI技术治理进入实质性审查阶段。