人工智能是计算机科学的一个新的分支，可以对人的意识、思维的信息过程进行模拟。在信息时代背景下，人工智能受到关注，其理论研究、应用技术日益成熟，应用范围、市场规模持续扩大，但随之而来的安全问题也在不断增多。在“新基建”等政策的推动下，我国进入人工智能领域布局的资本不断增加，人工智能与众多行业结合速度加快，因此人工智能安全行业发展极为重要。
学习是人工智能在实际应用中应具有的功能，可以提高和扩展其能力，在学习的同时，人工智能采集到的数据不断增多，由于不同机构提供的数据存在不同的规范标准，这些数据构成极为复杂。而人工智能自身算法存在不足，无法依靠自身来能力识别攻击，叠加新型攻击手段不断增多，对人工智能安全造成威胁。
人工智能被广泛应用到互联网、电子、通信、医疗、交通、金融、工业、农业等各个领域，一旦遭受攻击，应用在医疗设备、自动驾驶等领域的产品将对人身安全造成危害，应用在金融等领域的产品将造成财产安全损失，应用在通信等领域的产品将造成信息泄露，应用在工业领域的产品将造成生产事故、危险品泄露事故、废弃物污染事故等，因此人工智能安全技术进步极为重要。
2014年，人工智能受攻击被证实之后，人工智能安全相关研究迅速增多。根据中国信息通信研究院公布的数据显示，2014年，全球人工智能安全风险论文发表数量为6600篇，人工智能安全防御论文数量为3090篇，到2019年这一数据增长至28700篇、12600篇；由论文发表量来看，对抗样本攻击和防御是人工智能安全领域最受关注的研究方向。
根据新思界产业研究中心发布的
《2021-2025年中国人工智能安全市场可行性研究报告》显示，2020年，全球人工智能市场规模约为13万亿元，预计到2030年将达到100万亿元以上，年均复合增长率达到23%左右，呈现高速增长态势。全球人工智能市场高速增长必将带动人工智能安全需求高速上升，预计2020-2030年，全球人工智能安全市场规模将以26%左右的增速迅速攀升，发展前景极为广阔。
新思界
行业分析人士表示，人工智能可引领诸多产业变革，提升产业竞争优势，已经成为全球多个国家的发展战略，给予人工智能安全市场巨大发展空间。受市场前景吸引，以及为自有产品提供安全服务，全球进入人工智能安全领域布局的企业数量不断增多，例如谷歌、百度、京东、字节跳动、瑞莱智慧、Horizon3.ai、Cylance、Obsidian等。我国“十四五”国家重点研发计划“网络空间安全治理”重点专项中，人工智能安全防御及评估技术被纳入，将推动我国人工智能安全行业快速发展。
