《人工智能安全》關(guān)注人工智能當(dāng)下技術(shù)發(fā)展和產(chǎn)業(yè)應(yīng)用中的安全問題，介紹了人工智能的發(fā)展歷程，梳理了人工智能安全面臨的挑戰(zhàn)和人工智能安全體系架構(gòu)，分析了人工智能在安全治理領(lǐng)域的作用、國內(nèi)外人工智能安全治理進(jìn)展、人工智能安全未來發(fā)展等。
本書可供計算機(jī)、人工智能等相關(guān)領(lǐng)域?qū)I(yè)人員作為人工智能安全開發(fā)、應(yīng)用工作的參考，也可供不具備人工智能背景知識的人士閱讀。
本書關(guān)注人工智能當(dāng)下技術(shù)發(fā)展和產(chǎn)業(yè)應(yīng)用中正在發(fā)生的安全問題，內(nèi)容包括現(xiàn)階段人工智能安全風(fēng)險、人工智能在安全領(lǐng)域的應(yīng)用情況、國內(nèi)外人工智能的安全治理舉措、人工智能安全研究熱點(diǎn)等，對當(dāng)前人工智能健康發(fā)展具有一定參考意義。
2016年3月，谷歌旗下DeepMind公司開發(fā)的AlphaGo機(jī)器棋手以4:1戰(zhàn)勝世界圍棋冠軍李世石。雖然十多年前國際象棋專家穆勒就預(yù)計，頂尖圍棋棋手臣服于人工智能（Artificial Intelligence，AI）腳下并不遙遠(yuǎn)，但是這一天真的到來之時，還是讓人們不勝唏噓。AlphaGo的橫空出世在讓人們震驚的同時，也讓人工智能這一沉寂多年的技術(shù)術(shù)語又一次成為媒體熱詞，走進(jìn)大眾視野。無論是在國家政策規(guī)劃、行業(yè)發(fā)展戰(zhàn)略，亦或是企業(yè)投融資方案、消費(fèi)者分析報告中，都能夠看到人工智能“活躍”的身影。
當(dāng)下，人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正在對國家經(jīng)濟(jì)發(fā)展、社會進(jìn)步以及國際政治經(jīng)濟(jì)格局等產(chǎn)生重大深遠(yuǎn)的影響。美國、歐盟、英國等發(fā)達(dá)經(jīng)濟(jì)體紛紛出臺人工智能國家發(fā)展戰(zhàn)略，加大人才培養(yǎng)、研發(fā)投入和產(chǎn)業(yè)投資，構(gòu)建適合人工智能發(fā)展的政策環(huán)境和數(shù)據(jù)基礎(chǔ)，以期爭奪全球領(lǐng)先地位。日本、韓國、新加坡等亞太國家也制定出臺符合本國實(shí)際的人工智能發(fā)展行動計劃，以推進(jìn)經(jīng)濟(jì)發(fā)展和社會進(jìn)步。
我國2017年發(fā)布《新一代人工智能發(fā)展規(guī)劃》，將人工智能發(fā)展提升到國家戰(zhàn)略�！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》將構(gòu)建開放協(xié)同的人工智能科技創(chuàng)新體系、培育高端高效的智能經(jīng)濟(jì)、建設(shè)安全便捷的智能社會、構(gòu)建泛在安全高效的智能化基礎(chǔ)設(shè)施體系等作為重點(diǎn)任務(wù)，覆蓋了廣泛的人工智能研究方向和應(yīng)用領(lǐng)域，力圖實(shí)現(xiàn)人工智能產(chǎn)業(yè)的全面發(fā)展。經(jīng)過多年努力，我國已經(jīng)躋身全球人工智能領(lǐng)先國家，在人工智能研發(fā)和商用方面，逐步縮小和美國的差距。當(dāng)前，人工智能已廣泛應(yīng)用于醫(yī)療、交通、金融、制造、家居、安防等多個領(lǐng)域，推動傳統(tǒng)行業(yè)的數(shù)字化轉(zhuǎn)型和智能化升級。特別是在新冠疫情期間，人工智能應(yīng)用和產(chǎn)品更是充分發(fā)揮自感知、無接觸、全天候、無人化等技術(shù)優(yōu)勢，為疫情防控和復(fù)工復(fù)產(chǎn)提供“硬核”支撐。2020年3月4日，中共中央政治局常務(wù)委員會召開會議，提出要發(fā)力于科技端的新型基礎(chǔ)設(shè)施建設(shè)。作為“新基建”核心板塊，人工智能更加受到關(guān)注。人工智能借助其底層支撐技術(shù)的普遍適用性，基礎(chǔ)設(shè)施化特征更加明顯，將為經(jīng)濟(jì)社會的智能化轉(zhuǎn)型和高質(zhì)量發(fā)展賦能助力。
但是，當(dāng)人們?yōu)槿斯ぶ悄馨l(fā)展歡呼雀躍的時候，人工智能安全風(fēng)險正在悄無聲息地潛入人們生產(chǎn)生活的各個方面：擺在客廳里的智能音箱，有可能成為黑客的竊聽設(shè)備；廣泛部署的人臉識別設(shè)備，可能大量獲取公眾隱私；家人的語音通話，有可能是詐騙分子通過語音合成而來；行駛的自動駕駛車輛，有可能“失控”而成為馬路殺手。不斷暴露的人工智能安全問題，正在引發(fā)公眾的焦慮與擔(dān)心。同時，人工智能技術(shù)也會應(yīng)用于傳統(tǒng)安全領(lǐng)域，為網(wǎng)絡(luò)空間安全防護(hù)、國家社會安全治理等提供新的技術(shù)手段，大大提升傳統(tǒng)安全的自動化和智能化水平。趨利避害，如何有效規(guī)避人工智能安全風(fēng)險、加強(qiáng)人工智能安全應(yīng)用，成為推進(jìn)人工智能持續(xù)健康發(fā)展的重要保障。
目前關(guān)于人工智能的書籍大多是從發(fā)展的角度進(jìn)行闡述，關(guān)注人工智能發(fā)展對經(jīng)濟(jì)社會的促進(jìn)和變革作用，包括李彥宏的《智能革命》、吳軍的《智能時代》、李開復(fù)的《AI·未來》等，以及從人工智能倫理角度介入，關(guān)注人類未來命運(yùn)的書籍，包括邁克斯·泰格馬克的《生命3.0》、尤瓦爾·赫拉利的《未來簡史：從智人到神人》等。其中也不乏關(guān)注人工智能安全的章節(jié)，但更多是著眼于未來，擔(dān)心人工智能對未來社會就業(yè)的替代、人類隱私的掌控以及強(qiáng)人工智能對人類命運(yùn)的影響：是會像馬克·扎克伯格宣揚(yáng)的那樣造福人類生活？還是會像史蒂芬·霍金、埃隆·馬斯克警告的那樣威脅人類生存？
與以上書籍不同，本書更多是關(guān)注人工智能當(dāng)下技術(shù)發(fā)展和產(chǎn)業(yè)應(yīng)用中正在發(fā)生的安全問題，包括現(xiàn)階段人工智能安全風(fēng)險、人工智能在安全領(lǐng)域的應(yīng)用情況、國內(nèi)外人工智能的安全治理舉措、人工智能安全研究熱點(diǎn)等，期望對當(dāng)前人工智能健康發(fā)展具有一定的參考意義。本書的編寫團(tuán)隊長期跟蹤人工智能安全態(tài)勢，進(jìn)行人工智能安全風(fēng)險、安全應(yīng)用以及安全治理研究，在人工智能安全方面有較強(qiáng)的研究積累。
本書的編寫基于著者多年的研究，并凝聚最新的研究思考。本書各章節(jié)內(nèi)容簡要介紹如下：第1章基于人工智能的發(fā)展歷程，著力理清現(xiàn)階段人工智能與安全的相互關(guān)系；第2章梳理總結(jié)人工智能安全挑戰(zhàn)，構(gòu)建涵蓋國家社會安全、物理世界安全和網(wǎng)絡(luò)空間安全的人工智能安全體系架構(gòu)；第3章選取人工智能在安全領(lǐng)域的熱點(diǎn)應(yīng)用，分析人工智能在網(wǎng)絡(luò)空間安全防護(hù)和社會公共安全治理領(lǐng)域的促進(jìn)作用；第4章分析國際人工智能安全治理進(jìn)展，包括世界主要國家的人工智能安全治理部署思路和具體舉措；第5章分析國內(nèi)人工智能安全治理情況，明晰取得的成果和存在的問題；第6章圍繞人臉識別、智能網(wǎng)聯(lián)汽車、深度偽造等人工智能應(yīng)用先導(dǎo)和問題突出領(lǐng)域，聚焦熱點(diǎn)，進(jìn)行有針對性的研究分析；第7章結(jié)合全書內(nèi)容提出人工智能安全發(fā)展的總體展望，希望能夠和廣大讀者產(chǎn)生共鳴。
本書既可供計算機(jī)、人工智能等相關(guān)領(lǐng)域?qū)I(yè)人員作為人工智能安全開發(fā)、應(yīng)用工作的參考，也可供不具備人工智能背景知識的人士閱讀，了解人工智能安全的相關(guān)問題和理念，推進(jìn)全行業(yè)、全社會層面的人工智能安全治理工作。
由于水平有限，且人工智能及安全尚在不斷發(fā)展過程中，如果讀者發(fā)現(xiàn)書中存在不足之處，懇請?zhí)岢鰧氋F意見，在此表示衷心感謝。
著者
2020年4月
第1章 人工智能與安全 // 001
1.1 人工智能 // 002
1.1.1 人工智能基本概念 // 002
1.1.2 人工智能發(fā)展歷程 // 004
1.2 人工智能安全 // 008
1.3 人工智能安全挑戰(zhàn)和機(jī)遇 // 011
1.3.1 安全挑戰(zhàn) // 011
1.3.2 安全機(jī)遇 // 012
1.3.3 安全治理 // 012
第2章 人工智能安全挑戰(zhàn) // 015
2.1 人工智能安全問題起源 // 016
2.2 人工智能安全體系架構(gòu) // 018
2.3 網(wǎng)絡(luò)空間安全挑戰(zhàn) // 019
2.3.1 網(wǎng)絡(luò)安全挑戰(zhàn) // 019
2.3.2 數(shù)據(jù)安全挑戰(zhàn) // 021
2.3.3 算法安全挑戰(zhàn) // 025
2.3.4 信息安全挑戰(zhàn) // 027
2.4 物理世界安全挑戰(zhàn) // 029
2.4.1 人身安全挑戰(zhàn) // 029
2.4.2 財產(chǎn)安全挑戰(zhàn) // 029
2.4.3 環(huán)境安全挑戰(zhàn) // 030
2.5 國家社會安全挑戰(zhàn) // 030
2.5.1 政體安全挑戰(zhàn) // 030
2.5.2 軍事安全挑戰(zhàn) // 031
2.5.3 就業(yè)安全挑戰(zhàn) // 032
2.5.4 倫理安全挑戰(zhàn) // 034
2.5.5 產(chǎn)業(yè)安全挑戰(zhàn) // 035
第3章 人工智能安全應(yīng)用 // 039
3.1 概述 // 040
3.2 網(wǎng)絡(luò)空間安全應(yīng)用 // 041
3.2.1 網(wǎng)絡(luò)安全防護(hù)應(yīng)用 // 041
3.2.2 數(shù)據(jù)安全治理應(yīng)用 // 045
3.2.3 內(nèi)容安全審查應(yīng)用 // 047
3.3 社會公共安全應(yīng)用 // 049
3.3.1 智能安防應(yīng)用 // 049
3.3.2 金融風(fēng)控應(yīng)用 // 051
3.3.3 網(wǎng)絡(luò)詐騙治理 // 052
3.3.4 新冠疫情防控 // 054
第4章 國際人工智能安全進(jìn)展 // 059
4.1 主要國家在人工智能安全方面的部署 // 060
4.1.1 美國 // 060
4.1.2 歐盟 // 062
4.1.3 英國 // 063
4.1.4 其他 // 063
4.2 主要國家在人工智能安全方面的舉措 // 065
4.2.1 政策規(guī)劃 // 066
4.2.2 倫理原則 // 072
4.2.3 法律法規(guī) // 075
4.2.4 行政監(jiān)管 // 077
4.2.5 標(biāo)準(zhǔn)規(guī)范 // 081
4.2.6 人才隊伍 // 084
4.2.7 安全技術(shù) // 085
4.2.8 產(chǎn)業(yè)生態(tài) // 090
第5章 我國人工智能安全進(jìn)展 // 095
5.1 政策規(guī)劃 // 096
5.2 倫理原則 // 099
5.3 法律法規(guī) // 100
5.4 行政監(jiān)管 // 103
5.5 標(biāo)準(zhǔn)規(guī)范 // 106
5.6 人才隊伍 // 108
5.7 安全技術(shù) // 111
5.8 產(chǎn)業(yè)生態(tài) // 113
第6章 人工智能安全研究熱點(diǎn) // 117
6.1 算法智能推薦 // 118
6.1.1 概述 // 118
6.1.2 技術(shù)應(yīng)用 // 118
6.1.3 風(fēng)險挑戰(zhàn) // 120
6.1.4 治理動態(tài) // 122
6.1.5 措施建議 // 123
6.2 深度偽造技術(shù) // 124
6.2.1 概述 // 124
6.2.2 技術(shù)應(yīng)用 // 125
6.2.3 風(fēng)險挑戰(zhàn) // 126
6.2.4 治理動態(tài) // 127
6.2.5 措施建議 // 129
6.3 生物特征識別 // 130
6.3.1 概述 // 130
6.3.2 技術(shù)應(yīng)用 // 131
6.3.3 風(fēng)險挑戰(zhàn) // 133
6.3.4 治理動態(tài) // 135
6.3.5 措施建議 // 141
6.4 智能網(wǎng)聯(lián)汽車 // 142
6.4.1 概述 // 142
6.4.2 技術(shù)應(yīng)用 // 143
6.4.3 風(fēng)險挑戰(zhàn) // 144
6.4.4 治理動態(tài) // 146
6.4.5 措施建議 // 147
6.5 人工智能詐騙防范治理 // 148
6.5.1 概述 // 148
6.5.2 技術(shù)應(yīng)用 // 149
6.5.3 風(fēng)險挑戰(zhàn) // 150
6.5.4 治理動態(tài) // 153
6.5.5 措施建議 // 157
第7章 人工智能安全展望 // 161
7.1 充分發(fā)揮倫理原則的指導(dǎo)作用 // 162
7.2 有序推進(jìn)法律法規(guī)的制定出臺 // 163
7.3 適時完善行政監(jiān)管的機(jī)制建設(shè) // 165
7.4 加快推動安全標(biāo)準(zhǔn)的研究制定 // 167
7.5 持續(xù)強(qiáng)化人才隊伍的引進(jìn)培養(yǎng) // 169
7.6 深化開展安全研究和安全應(yīng)用 // 170
7.7 瞄準(zhǔn)補(bǔ)足智能產(chǎn)業(yè)的發(fā)展短板 // 172
7.8 全面加強(qiáng)社會公眾的宣傳引導(dǎo) // 174
參考文獻(xiàn) // 175
后記 // 177
書單推薦
