人工智能是計(jì)算機(jī)科學(xué)的一個(gè)新的分支，可以對(duì)人的意識(shí)、思維的信息過程進(jìn)行模擬。在信息時(shí)代背景下，人工智能受到關(guān)注，其理論研究、應(yīng)用技術(shù)日益成熟，應(yīng)用范圍、市場(chǎng)規(guī)模持續(xù)擴(kuò)大，但隨之而來的安全問題也在不斷增多。在"新基建"等政策的推動(dòng)下，我國進(jìn)入人工智能領(lǐng)域布局的資本不斷增加，人工智能與眾多行業(yè)結(jié)合速度加快，因此人工智能安全行業(yè)發(fā)展極為重要。 　　學(xué)習(xí)是人工智能在實(shí)際應(yīng)用中應(yīng)具有的功能，可以提高和擴(kuò)展其能力，在學(xué)習(xí)的同時(shí)，人工智能采集到的數(shù)據(jù)不斷增多，由于不同機(jī)構(gòu)提供的數(shù)據(jù)存在不同的規(guī)范標(biāo)準(zhǔn)，這些數(shù)據(jù)構(gòu)成極為復(fù)雜。而人工智能自身算法存在不足，無法依靠自身來能力識(shí)別攻擊，疊加新型攻擊手段不斷增多，對(duì)人工智能安全造成威脅。 　　人工智能被廣泛應(yīng)用到互聯(lián)網(wǎng)、電子、通信、醫(yī)療、交通、金融、工業(yè)、農(nóng)業(yè)等各個(gè)領(lǐng)域，一旦遭受攻擊，應(yīng)用在醫(yī)療設(shè)備、自動(dòng)駕駛等領(lǐng)域的產(chǎn)品將對(duì)人身安全造成危害，應(yīng)用在金融等領(lǐng)域的產(chǎn)品將造成財(cái)產(chǎn)安全損失，應(yīng)用在通信等領(lǐng)域的產(chǎn)品將造成信息泄露，應(yīng)用在工業(yè)領(lǐng)域的產(chǎn)品將造成生產(chǎn)事故、危險(xiǎn)品泄露事故、廢棄物污染事故等，因此人工智能安全技術(shù)進(jìn)步極為重要。 　　2014年，人工智能受攻擊被證實(shí)之后，人工智能安全相關(guān)研究迅速增多。根據(jù)中國信息通信研究院公布的數(shù)據(jù)顯示，2014年，全球人工智能安全風(fēng)險(xiǎn)論文發(fā)表數(shù)量為6600篇，人工智能安全防御論文數(shù)量為3090篇，到2019年這一數(shù)據(jù)增長(zhǎng)至28700篇、12600篇；由論文發(fā)表量來看，對(duì)抗樣本攻擊和防御是人工智能安全領(lǐng)域最受關(guān)注的研究方向。 　　根據(jù)新思界產(chǎn)業(yè)研究中心發(fā)布的《2021-2025年中國人工智能安全市場(chǎng)可行性研究報(bào)告》顯示，2020年，全球人工智能市場(chǎng)規(guī)模約為13萬億元，預(yù)計(jì)到2030年將達(dá)到100萬億元以上，年均復(fù)合增長(zhǎng)率達(dá)到23%左右，呈現(xiàn)高速增長(zhǎng)態(tài)勢(shì)。全球人工智能市場(chǎng)高速增長(zhǎng)必將帶動(dòng)人工智能安全需求高速上升，預(yù)計(jì)2020-2030年，全球人工智能安全市場(chǎng)規(guī)模將以26%左右的增速迅速攀升，發(fā)展前景極為廣闊。 　　新思界行業(yè)分析人士表示，人工智能可引領(lǐng)諸多產(chǎn)業(yè)變革，提升產(chǎn)業(yè)競(jìng)爭(zhēng)優(yōu)勢(shì)，已經(jīng)成為全球多個(gè)國家的發(fā)展戰(zhàn)略，給予人工智能安全市場(chǎng)巨大發(fā)展空間。受市場(chǎng)前景吸引，以及為自有產(chǎn)品提供安全服務(wù)，全球進(jìn)入人工智能安全領(lǐng)域布局的企業(yè)數(shù)量不斷增多，例如谷歌、百度、京東、字節(jié)跳動(dòng)、瑞萊智慧、Horizon3.ai、Cylance、Obsidian等。我國"十四五"國家重點(diǎn)研發(fā)計(jì)劃"網(wǎng)絡(luò)空間安全治理"重點(diǎn)專項(xiàng)中，人工智能安全防御及評(píng)估技術(shù)被納入，將推動(dòng)我國人工智能安全行業(yè)快速發(fā)展。