|
|
来源：全国信息安全标准化技术委员会 大数据安全标准特别工作组
《人工智能安全标准化白皮书 2023版》大纲
人工智能是人类科学技术发展的重要成果，是信息时代向前演进的关键动力。运用好、发展好、治理好人工智能，让人工智能持续、安全地造福人类社会，已经成为世界各国的基本共识。
党的十八大以来，在习近平新时代中国特色社会主义思想指引下，我国人工智能保持了安全、有序、快速的发展进程，在政治、军事、医疗、工业、经济等领域作用日益关键，已逐渐成为国家和社会的技术支柱。
当前，人工智能发展再一次迈入关键时期，以生成式人工智能为代表的新技术、新应用不断打破人们对于人工智能的固有认知，也带来了大量网络意识形态安全、数据安全、个人信息安全等方面新风险、新挑战，化解安全风险、统筹发展和安全成为重大难题。
贯彻总体国家安全观，全国信息安全标准化技术委员会大数据安全标准特别工作组坚持发挥标准化工作基础性、规范性作用，开展了一系列人工智能安全标准化工作，为推动人工智能发展贡献力量。
面对人工智能安全新形势，为全面介绍人工智能安全标准化工作进展情况，分享相关工作经验，在《人工智能安全标准化白皮书（ 2019版）》等前期研究成果基础上，特发布本白皮书。
《人工智能安全标准化白皮书 2023版》目录
一、人工智能发展现状
（一）人工智能技术特点
（二）人工智能应用趋势
（三）人工智能安全属性
二、人工智能安全风险分析
（一）用户数据用于训练，放大隐私信息泄露风险
（二）算法模型日趋复杂，可解释性目标难实现
（三）可靠性问题仍然制约人工智能关键领域应用
（四）滥用误用人工智能，扰乱生产生活安全秩序
（五）模型和数据成为核心资产，安全保护难度提升
（六）网络意识形态安全面临新风险
三、人工智能安全政策与标准现状
（一）国内外人工智能安全战略与政策法规
（二）国内外人工智能安全标准
四、人工智能安全标准需求分析
（一）人工智能安全属性定义和度量指标
（二）用户输入数据安全保护相关规范
（三）人工智能服务网络安全防护相关指南
（四）人工智能安全评估相关规范
（五）生成式人工智能安全标准
五、人工智能安全标准化工作建议
（一）持续完善人工智能安全标准体系
（二）大力开展基础共性安全标准研究
（三）加快出台产业发展急需安全标准
附录A：标准列表
A.1 国内人工智能安全相关标准列表
A.2 国外人工智能安全相关标准列表
|
|
发表于 2023-6-23 21:03
