CSA大中华区李雨航：AI是一个成长中的小孩

更新时间：2024-11-19 10:53  浏览量：3

第八届云安全联盟大中华区大会于11月15日在北京举办。云安全联盟大中华区主席、联合国科学和技术促进发展委员会主席顾问李雨航发表了主题演讲，他回顾了云安全从1.0到3.0的演进，同时深入阐述了AI发展的历程与趋势、AI风险与治理、AI安全与伦理等热点话题。同时他也表示，国际合作是保障AI安全发展与伦理合规的关键所在。

李雨航以孩子做比喻生动形象的对AI面临的风险和威胁进行了阐述，他说：“AI如同一个孩子，在快速成长推动行业革命的同时，更需要全球共同呵护，给他营造一个安全、健康、正能量的成长环境，并且还要给予他积极正面的教育和引导。因为AI发展过程中可能因外部环境或自身的失控而产生风险。”他总结了三类主要威胁：数据窃取与深度伪造等“外部威胁”、厂商滥用数据的“家长失职”，以及AI自我意识的形成导致的失控风险。同时他还呼吁加强国际合作，建立可信机制，防止科技巨头滥用数据，加强算法透明性和用户隐私保护。

李雨航表示，AI的发展带来了巨大的技术红利，但同时也伴随着隐私保护、数据安全和伦理偏见等多重挑战。全社会需要以负责任的态度，通过制定伦理准则和技术标准，引导AI走向安全与可持续发展的道路。AI的伦理和安全问题超越了国界，需要各国达成共识，推动法律法规、治理框架和技术标准的建设，消除在AI治理上的分歧，提升全球治理的透明性与一致性。同时他也提到，目前国际社会在AI风险管理领域已经取得了初步进展。联合国近期通过的两项AI相关决议，即“把握安全、可靠和值得信赖的人工智能系统用于可持续发展的机会”和“加强人工智能能力建设的国际合作”，为AI治理提供了全球性的指导方向。此外，他还介绍了当前AI治理的实践进展。科技企业、金融机构及政府部门正在积极探索AI安全发展的路径。例如，微软、谷歌等企业通过算法透明化和隐私保护推进负责任的AI应用，许多国家也设立了首席AI官（CAIO）和治理团队，以确保AI技术在公共领域的稳健应用。同时，他还提到联合国框架下的全球数字契约已初步确立，为AI治理提供了清晰的规则参考。

在演讲最后他再次强调，AI安全需要全球合作才能实现。云安全联盟大中华区提出了在AI领域建立类似“原子能机构”的全球治理机构的建议，并且已经被联合国秘书长积极采纳。他呼吁更多国家和组织加入全球AI治理框架，共同推动AI技术的负责任发展与应用，确保AI能够真正服务于全人类的福祉。

大会期间，多家企业和机构的代表围绕云安全、AI治理、数据隐私保护等议题展开了深入交流，共同探讨了云安全在AI时代的发展路径。与会者普遍认为，AI安全的未来需要全球各方的共同努力与协作，通过不断完善的技术标准、政策框架和人才培养体系为AI技术的健康发展提供保障。李雨航说，AI安全发展最紧缺的是人才，而CSA大中华区发布的全球首个AI安全认证CAISP（AI安全认证专家），中文版CCSKv5（云安全知识认证），ACSE（高级云安全专家认证），都可以为行业培养对口的专业安全人才。

此次大会由云安全联盟大中华区主办，中国电信、百度安全、蚂蚁集团、腾讯安全等单位承办，吸引了600多位行业专家和网络安全企业代表参会。大会的成功举办为全球AI安全治理提供了新思路和合作契机，为行业构建了协作创新的平台，共同推动AI向安全、可靠、负责任的方向发展。