人工智能的倫理問題及其治理研究

國家社會科學基金青年項目：當代西方數字資本主義批判理

論與數字化生活問題研究（項目編號：19CKS006）

人工智能的倫理問題

及其治理研究

鄧若玉趙洋?/?著

圖書在版編目（CIP）

人工智能的倫理問題及其治理研究/鄧若玉,趙洋

著.--北京:新華出版社,2022.10

ISBN978-7-5166-6466-7

Ⅰ.①人…Ⅱ.①鄧…②趙…Ⅲ.①人工智能－技

術倫理學－研究Ⅳ.①TP18②B82-057

中國版本圖書館CIP數據核字(2022)第178857號

人工智能的倫理問題及其治理研究

作??者：鄧若玉趙洋

責任編輯：唐波勇陳君君封面設計：匯文書聯

出版發行：新華出版社

地??址：北京石景山區京原路8號郵??編：100040

網??址：

經??銷：新華書店、新華出版社天貓旗艦店、京東旗艦店及各大網店

購書熱線國新聞書店購書熱線/p>

照??排：匯文書聯

印??刷：北京厚誠則銘印刷科技有限公司

成品尺寸：170mm×240mm

印??張：8.75字??數：142千字

版??次：2022年10月第1版印??次：2022年10月第1次印刷

書??號：ISBN978-7-5166-6466-7

定??價：36.00元

版權專有，侵權必究。如有質量問題，請與出版社聯系調換/p>

?

前言

人工智能作為時代變革的驅動力，不僅賦能傳統行業加速產業結構轉型，

而且將人們從高強度工作中解放出來，提供了精準化、人性化、便捷化的服務，

為實現人們向往的美好生活增添了強大動力。近年來，中國人工智能產業高速

發展，世界已經有目共睹。人工智能作為一類“賦能”技術，與經濟發展、社

會治理息息相關，更重要的是，廣大民眾在追求美好和公平健康的生活時會提

出新的要求。

科學技術是中性的，可用于造福人類，但也可能危害人類。要避免人工智

能技術創新治理陷入“科林格里奇困境”，就必須預先研判，提前布局。人工

智能倫理問題發生在人工智能技術的應用場景中，即人工智能技術介入人與人

之間，改變了原來的“人與人的關系”而引發新的倫理問題。人工智能倫理規

范就是要探討如何解決這些倫理問題，包括提出人工智能倫理準則，制定人工

智能設計原則，約束從業人員職業規范等。

在此時代背景下，從人工智能倫理問題入手，構建人工智能技術與行業的

規范化治理已刻不容緩。治理是一個長期且不斷演化的過程，本書從人工智能

研究領域的倫理、公平和包容性、透明性、隱私性，人和AI系統之間的合作，

以及相關技術的可靠性與魯棒性等角度，覆蓋信息科學及倫理、哲學、法律等

學科的前沿理論，為讀者全面理解相關領域知識奠定基礎。本書首先介紹了人

工智能的基本概念，然后對人工智能倫理的相關內容進行了研究，接下來從人

工智能安全、人工智能社會治理、人工智能與信息安全這三個方面，列舉和說

明了人工智能技術對各行各業產生的社會性影響及應對之策，最后討論了人工

智能治理的相關問題，并提出了人工智能倫理問題的治理路徑。

1

人工智能的倫理問題及其治理研究

本書在編寫的過程中，得到了出版社的領導和編輯的大力支持，還有許多

同事為本書的編寫提供了大量的資料，在此一并表示衷心的感謝。由于時間緊，

工作量大，難免會出現不足之處，懇請大家批評指正。

2

目錄

第一章人工智能???????????????????????????????????????????????????????????????????1

第一節人工智能的起源與發展????????????????????????????????????????????????????????????????????????????2

第二節人工智能的三個學術流派??????????????????????????????????????????????????????????????????????14

第三節人工智能的行業應用??????????????????????????????????????????????????????????????????????????????25

第二章人工智能倫理???????????????????????????????????????????????????????????39

第一節IEEE發布的《人工智能設計的倫理準則》?????????????????????????????????????40

第二節機器道德????????????????????????????????????????????????????????????????????????????????????????????????????41

第三節倫理風險評估????????????????????????????????????????????????????????????????????????????????????????????44

第三章人工智能安全???????????????????????????????????????????????????????????51

第一節人工智能與安全的辯證關系?????????????????????????????????????????????????????????????????52

第二節人工智能安全體系架構與分類?????????????????????????????????????????????????????????????55

第三節人工智能安全所處位置及外部關聯????????????????????????????????????????????????????59

第四章“安全”“可信”人工智能???????????????????????????????????????61

第一節人工智能的“安全”??????????????????????????????????????????????????????????????????????????????62

第二節人工智能的“可信”??????????????????????????????????????????????????????????????????????????????63

第三節聯邦學習????????????????????????????????????????????????????????????????????????????????????????????????????69

1

人工智能的倫理問題及其治理研究

第五章人工智能與社會治理????????????????????????????????????????????????81

第一節智能化社會治理???????????????????????????????????????????????????????????????????????????????????????82

第二節協同化社會治理???????????????????????????????????????????????????????????????????????????????????????88

第三節生態化社會治理???????????????????????????????????????????????????????????????????????????????????????90

第四節法治化社會治理???????????????????????????????????????????????????????????????????????????????????????91

第五節探索人工智能社會治理的方案?????????????????????????????????????????????????????????????95

第六章人工智能與信息安全??????????????????????????????????????????????101

第一節網絡攻擊與防御?????????????????????????????????????????????????????????????????????????????????????102

第二節基于人工智能的網絡攻擊????????????????????????????????????????????????????????????????????106

第三節基于人工智能的網絡防御????????????????????????????????????????????????????????????????????108

第四節人工智能時代的網絡技術發展???????????????????????????????????????????????????????????112

第七章人工智能的倫理問題治理體系????????????????????????????????117

第一節人工智能倫理治理現狀????????????????????????????????????????????????????????????????????????118

第二節人工智能倫理治理難點????????????????????????????????????????????????????????????????????????119

第三節人工智能倫理治理路徑????????????????????????????????????????????????????????????????????????121

參考文獻??????????????????????????????????????????????????????????????????????????????131

2

第一章

人工智能

人工智能的倫理問題及其治理研究

第一節人工智能的起源與發展

人工智能自1956年被提出以來，經過半個多世紀的發展，目前已經取得

了長足的進展。但是，人工智能的發展并非一帆風順，而是經歷了從繁榮到衰

退，再到繁榮的螺旋式發展過程，先后出現了三次發展高峰。

一、人工智能第一次發展高峰

人工智能的第一次發展高峰出現在20世紀60年代末到70年代初，這次

高峰出現的主要原因是人們看到了人工智能系統能夠與具體應用相結合，感受

到了人工智能的巨大魅力，從而著手將人工智能由理論研究推向實用。其主要

標志是專家系統的出現。在20世紀50年代人工智能剛剛被提出的時候，人工

智能的研究主要停留在理論研究階段，其基本方法是邏輯法，研究方向主要包

括自動推理，認知模型，知識表示和推理，人工智能的語言、架構和工具等。

最初的人工智能應用于機器翻譯、定理證明、通用問題求解、下棋程序、工業

反饋控制、機器人等領域。

1957年，康奈爾大學的實驗心理學家弗蘭克·羅森布拉特在一臺IBM

704計算機上模擬實現了“感知機”神經網絡模型。這個模型雖然看上去只是

簡單地把一組M-P（McCulloch-Pitts）神經元平鋪排列在一起，但是依靠機

器學習卻能完成一部分的機器視覺和模式識別方面的任務，從而推動了人工

智能的發展。1959年，牛津大學邏輯學家王浩在一臺BM704計算機上只用9

分鐘就證明了《數學原理》中超過350條的一階邏輯全部定理4，他也因此成

了機器證明領域的開創性人物。[1]

20世紀60年代，人工智能相關的研究人員開始把研究重點轉移到智能表

示、智能推理、智能搜索方向，認為人工智能求解問題的過程是一個搜索的

過程，效果與啟發式函數有關。這一階段的主要研究成果包括A算法（搜索

[1]郭毅可.論人工智能歷史、現狀與未來發展戰略[J].人民論壇·學術前沿，2021(23)：

41-53

2

第一章人工智能

方法）、人工智能程序設計語言LISP、沖突歸結原理、語義網絡的知識表示方

法等。

20世紀60年代末到70年代初，以愛德華·費根鮑姆為首的一批年輕科

學家提出了知識工程的概念，開展了以知識為基礎的專家系統的研究與應用。

該研究將人工智能推向第一次高潮。當時的學術界認為人工智能時代已經來

臨，1969年發起的國際人工智能聯合會議（InternationalJointConferenceson

ArtificialIntelligence，IJCAI）匯集了當時學術界的人工智能研究最新成果。這

一階段出現的主要研究成果包括計算機配置專家系統、化學質譜分析系統、醫

療咨詢系統、地質勘探專家系統、疾病診斷和治療系統、語音理解系統等。這

一系列專家系統產品的研究和開發，將人工智能由理論研究推向了實用系統。

然而，人們當時對人工智能給予了過高的期望，甚至預言“十年以后人工智

能將超越人類思維”，但人工智能受囿于領域的局限性、知識的生成困難、經

驗與數據量的不足等約束，表現出專家系統所能解決的問題非常有限，更遠

談不上“超越人類思維”，從而使人們從對人工智能的看法由過高的希望轉為

失望。[1]

1972年7月，詹姆斯·萊特希爾爵士受英國科學研究委員會委托，對人

工智能的研究狀況進行了總體調查，提供了一個公正的調查報告。調查報告發

表于1973年。在這份報告中，萊特希爾批評了人工智能并未實現其“宏偉目

標”。報告指出：“人工智能研究及相關領域的大多數工作者都對過去25年所

取得的成就感到失望。人們在20世紀50—60年代進入該領域，但充滿希望的

事情遠未在1972年實現。迄今為止，該領域到目前為止沒有獲得任何其承諾

將產生的重大影響的發現?！盵2]萊特希爾的報告使得英國和美國學術機構對人

工智能的信心驟降，在人工智能方面的資金投入也被大幅度削減，最終造成人

工智能走入低谷。那段低谷被認為是人工智能的第一個冬天。

二、人工智能第二次發展高峰

人工智能第二次發展高峰出現在20世紀80年代末到90年代初。這次高

峰出現的主要原因是日本政府于1981年啟動了“第五代機”項目，其目標是

[1]人工智能的起源與歷史[J].氣象科技進展，2018，8(01)：63.

[2]林永青.人工智能起源處的“群星”[J].金融博覽，2017(05)：46-47.

3

人工智能的倫理問題及其治理研究

造出能夠與人對話、翻譯語言、解釋圖像、能夠像人一樣推理的機器。日本政

府為此撥款8.5億美元支持該項目。日本的第五代機計劃也影響了中國學術界。

中國學術界在1984年起開始跟進，并于1985年初在涿州召開了第一次全國第

五代計算機會議，會議就第五代計算機體系結構、知識情報處理、規則和推理

以及第五代機的應用（包括機器翻譯、機器人、圖像處理等）等方面展開深入

研討。從1986年起，中國把智能計算機系統、智能機器人和智能信息處理等

重大項目列入國家高技術研究發展計劃（863計劃），這標志著中國將人工智

能作為了重點研究領域。

20世紀80年代，針對特定領域的專家系統在商業上獲得成功應用，專家

系統及其工具越來越成熟和商品化。同時，霍普菲爾德神經網絡和反向傳播神

經網絡的提出，使得人們對人工智能的信心倍增。1987年，美國召開第一次

神經網絡國際會議，學術界及企業界共1500余人參加了該會議。會議主要議

題包括神經計算機設計、神經計算機功能、神經計算機的軟件模擬、神經計算

機芯片、人工智能與神經網絡等。會上宣布成立“國際神經網絡協會”，并決

定出版刊物《神經計算機》（NeuroComputer）。該會議掀起了神經網絡研究

的熱潮。神經網絡的出現解決了非線性分類和學習問題，這使神經網絡迅速發

展，出現了語音識別、機器翻譯等系列研究項目。各國在神經網絡方面的投資

也逐漸增加。

有學者評論，20世紀80—90年代，這一階段人工智能的特點是建立在對

分門別類地大量知識的多種處理方法之上，但存在著應用領域過于狹窄、更新

迭代和維護成本非常高、缺乏海量數據訓練機器等問題。

1992年，日本政府宣布“第五代機”項目失敗，結束了為期10年的研究。

一個主要的原因是，在日本學者全力研究面向人工智能計算機的同時，美國等

國家在通用計算機方面的發展步伐非常大，計算機的速度及其并行效率都有明

顯的提高，使得日本專用計算機所表現出來的推理速度反倒被高速的通用計算

機所秒殺。

事實上，在中國也存在著同樣的技術路線的爭論。一方面人們在研究通用

型高性能巨型機，例如國防科大的銀河計算機；另一方面人工智能研究人員在

研究支持人工智能的專用機，包括Prolog推理機、數據庫機、產生式計算機、

4

第一章人工智能

數據流驅動計算機等，但只有通用計算機以其強大的生命力及適用性真正地占

據了市場，而其他一些人工智能專用計算機很多都是曇花一現。

第五代機的相關研究不僅重塑了人們對人工智能的看法，也將人工智能發

展所面臨的困難都展現了出來。凡事都有兩面性，雖然知識導入使人工智能發

展到了一個新高度，但其也將知識描述的困難和復雜性展現得淋漓盡致。當時

人們面臨一個很大的問題：如果人工智能的所有知識都需要人類輸入，那么需

要輸入的內容將是無窮無盡的。

與此同時，神經網絡本身缺少相應的嚴格數學理論支持，反向傳播神經網

絡存在梯度消失問題（vanishinggradientproblem）。另外，當時的專家系統對

領域要求苛刻，不能跨界，而真實的應用常常并不完全受限于一個確切的領域，

使得專家系統的實用性變差；再就是專家系統的知識庫構建困難，因為從事人

工智能的人員不懂領域知識，而掌握領域知識的專家不知道如何將他們的知識

轉化到專家系統所需要的形式中，這也是缺乏令人贊嘆不已的人工智能應用成

果的原因之一。

20世紀90年代以后，計算機發展趨勢逐漸演化為小型化、并行化、網絡

化以及智能化，人工智能技術逐漸與多媒體技術、數據庫技術等主流技術相結

合，并融合在主流技術之中，旨在使計算機更聰明、更有效、與人更接近，人

工智能就如同一般性的計算機應用一樣，不再顯示出其獨特的光環。第二次高

峰過后，人工智能進入第二次低谷。

三、人工智能第三次發展高峰

人工智能第三次發展高峰出現在21世紀。這次高峰出現的主要原因是深

度學習技術的出現，解決了神經網絡學習過程中的梯度消失和梯度爆炸等問

題，以及深度學習的網絡深層結構能夠使其自動提取并表征復雜的特征，解決

了傳統方法中通過人工提取特征的問題。2006年，杰弗里·辛頓提出深度學

習概念以后，掀起了對深度學習研究的熱潮，人工智能研究再次爆發。這一

階段的主要研究成果包括：2010年，谷歌無人駕駛汽車創下了超過16萬公里

無事故的紀錄；2011年，BM沃森參加“危險邊緣”智力游戲擊敗了最高獎

金得主和連勝紀錄保持者；2016年，谷歌阿爾法狗戰勝圍棋九段棋手李世石；

2017年，谷歌阿爾法狗先以比分3∶0完勝世界圍棋冠軍柯潔，之后阿爾法

5

人工智能的倫理問題及其治理研究

狗·零完全從零開始，不需要任何歷史棋譜的指引和人類先驗知識的指導，花

三天時間自己左右互搏490萬個棋局，最終無師自通戰勝阿爾法狗。[1]

多個吸引人們眼球的、在局部領域內（特別是屬于確定性知識的領域）超

過人類的人工智能成果的展示，讓人們尤其是行外人員真切地感受到了人工智

能的威力，也真切地意識到人工智能已經來到了身邊。這使得人工智能在商業

市場上炙手可熱，創業公司層出不窮，投資者競相追逐。

人工智能發展第三次高峰的一個顯著特點是許多國家政府也跟著行動起來

了，通過制定國策、投入資金，引導發展人工智能技術，推動人工智能的應用。

2011年，美國政府推出了《國家機器人發展倡議》（NationalRobotics

Initiative，NRI），并在2012年由美國國家基金會資助近5000萬美元；2013

年，作為NRI的后續行動，美國政府資助的《美國機器人技術路線圖：從互

聯網到機器人技術》對外發布，隨后發布了旨在推進該技術路線圖的《通往尖

端機器人的道路》；2013年4月，美國國立衛生研究院發布了《推動創新神

經技術腦研究計劃》（BRAINInitiative，簡稱腦計劃），旨在研發更全面的工

具和信息庫以了解大腦在健康和疾病中的功能；2016年5月，美國白宮發布

了《為人工智能的未來做好準備》；2016年10月，美國國家科學與技術委員

會發布了旨在向美國提供一個跨部門的指導人工智能發展戰略導向的《國家人

工智能研究與發展戰略計劃》；2016年12月，美國白宮發布了關于人工智能

將在未來幾十年改變我們經濟方式的《人工智能、自動化與經濟》；2017年7

月，美國提出了《自動駕駛汽車法案》，旨在確保自動駕駛車輛安全性的要求；

2017年10月，美國信息產業協會發布了旨在確保人工智能能夠發揮最大潛力

而倡導相關公共與私營部門進行合作的《人工智能政策原則》。[2]

2013年，歐盟推出了被稱為是四個未來和新興技術的旗艦項目、歐盟資

助的最大的科學項目《人腦計劃》；2014年，歐盟委員會與歐洲機器人協會

推出了旨在維持和擴展歐洲在機器人技術方面領導地位的《歐盟機器人技術合

作伙伴計劃》；2016年5月，歐盟委員會提出了旨在應對機器人的發展給人

[1]郭毅可.論人工智能歷史、現狀與未來發展戰略[J].人民論壇·學術前沿，2021(23)：

41-53.

[2]袁珩，耿喆，徐峰，高芳，張東.美國人工智能戰略布局與對外策略[J].科技管理研究，

2022，42(12)：34-39.

6

第一章人工智能

類帶來影響的機器人規則立法提議，隨后歐洲議會于同年10月發布了《歐盟

機器人民事法律規則》。2016年12月，英國政府科學辦公室發布了旨在展示

如何負責任地使用人工智能技術來改善英國所有人生活水平的《人工智能：未

來決策制定的機遇與影響》；2017年10月，英國政府發布了《在英國發展人

工智能產業的報告》，報告包含18條針對政府、企業和學術界如何共同努力發

展人工智能的建議。[1]

四、人工智能第三次發展高峰的技術推手

人工智能之所以能進入第三次發展高峰，除了由于一些諸如AlphaGo戰

勝人類棋手的搶人眼球的事件引起了人們高度關注之外，其根本原因還是由于

技術上的突破，同時大數據、移動網絡、物聯網、微電子技術等新技術的發展

也為人工智能的進步奠定了技術基礎。

（一）深度學習的貢獻

深度學習（DeepLearning，DL）是一種以人工神經網絡為架構，對數據

進行表征學習的算法。深度學習使用了分層次抽象的思想，模擬人類大腦神經

網絡的工作原理，搭建多層神經網絡分別處理不同層的數據信息，原始數據通

過底層神經網絡抽象出底層特征輸出給高層神經網絡，高層神經網絡可以更有

效率地獲取高層概念，從而更精準地處理信息。

1974年，保羅·韋伯斯提出的標準反向傳播算法對后來的深度神經網絡

的發展起到了重要的作用。翁巨揚等人在1992年發表的生長網可以算是一個

早期的深度學習網絡方案，其可以在一般自然雜亂圖像中進行自然物體的識

別。同年，于爾根·施密德胡伯發表了一種多層級神經網絡模型，通過對一組

多層的循環神經網絡（RecurrentNeuralNetwork，RNN）使用無監督的預訓練

以預測其下一個輸入，從而訓練深度神經網絡的每一層。在這一模型中，神經

網絡中的每一層都代表觀測變量的一種壓縮表示，其基本上沒有信息丟失，這

一表示也被傳遞到下一層網絡；然后再使用反向傳播算法進行調優。施密德胡

[1]殷佳章，房樂憲.歐盟人工智能戰略框架下的倫理準則及其國際含義[J].國際論壇，

2020，22(02)：18-30+155-156.

7

人工智能的倫理問題及其治理研究

伯后來將這種多層級神經網絡模型稱為深度學習系統。當然，在那個年代，這

些學習方法盡管有效，但受計算能力的限制，這些方法距離實用還比較遙遠。[1]

2012年，亞歷克斯·克里熱夫斯基、伊利亞·薩茨克維爾和導師辛頓發

表了論文《基于深度卷積神經網絡的ImageNet分類》。ImageNet數據集在目

前深度學習圖像領域應用非常多，很多圖像分類、定位、檢測等研究工作大多

基于此數據集展開。該論文介紹了使用深度學習技術所開發的一個大型的深度

卷積神經網絡AlexNet，包含5個卷積層、1個最大池化層和2個全連接層，

共有6000萬個參數和50萬個神經元，將130萬個高分辨率圖像分為1000個

不同的類。因AlexNet證明了在GPU上訓練的深度卷積神經網絡可以將圖像

識別任務提升到一個新的水平，所以被業界廣泛認為是一項真正的開創性工作。

AlexNet在ImageNet競賽中獲得冠軍，其對神經網絡的發展產生了非常重要

的影響，之后的ImageNet冠軍幾乎全都采用了卷積神經網絡（Convolutional

NeuralNetwork，CNN）結構，使其成了圖像分類的核心模型，并由此開啟了

深度學習的新一波浪潮。[2]

2013年，托馬斯·米科洛夫等人發表了論文《單詞和短語的分布式表示

及其構成》，對連續Skip-gram模型進行了改進。Skip-gram模型是一種從大

量非結構化文本數據中學習高質量向量表示的有效方法。改進的結果使Skip-

gram模型具備更強的表示能力，通過對高頻詞進行二次抽樣的方法，以及衡

量短語的方法，使其處理速度顯著提高，可以更快地學習質量更高的向量，甚

至可以很好地表示由數百萬個句子構成的向量。這使得深度學習對文本的處理

能力又上了一個新的臺階。[3]

2014年，伊恩·古德費洛等人發表了論文《生成對抗網絡》。該論文提出

了一個新的框架一一生成對抗網絡（GenerativeAdversarialNets，GAN）來構

建生成模型。GAN框架同時訓練兩個模型：一個是生成器，用以獲取數據分

布；另一個是鑒別器，用以鑒別樣本，評估樣本是來自訓練數據而非生成器的

概率。通過兩者之間的博弈，GAN能夠對數據分布進行很好的建模。生成器

[1]李敏.人工智能：技術、資本與人的發展[D].中南財經政法大學，2018.

[2]何江玲.人工智能對人的全面發展的影響研究[D].哈爾濱師范大學，2022.

[3]郭毅可.論人工智能歷史、現狀與未來發展戰略[J].人民論壇·學術前沿，2021(23)：

41-53.

8

第一章人工智能

的目的是盡量降低鑒別器正確判斷出假樣本的概率，而鑒別器的目標是最大限

度地降低識別假樣本時發生的錯誤。由于GAN會訓練生成器讓鑒別器錯誤識

別的概率最大化，可以減小梯度飽和，提高訓練穩定性，并產生驚人的效果，

因此使得GAN迅速走紅，成為目前人們在機器學習、模式識別中優先采用的

訓練算法。[1]

2015年，迪德里克·金馬等人發表了論文《Adam：一種隨機優化方法》。

該論文介紹了一種基于自適應低階矩估計的隨機目標函數一階梯度優化算法

Adam。Adam可以為每個參數單獨調節學習速率，很快成了一個非常流行的

自適應優化器。Adam的出現促進了深度學習的有效運用，是目前深度學習中

最受歡迎的優化算法之一。[2]

2016年，何凱明等人發表了論文《用于圖像識別的深度殘差學習》。對一

個普通的神經網絡來說，越深的神經網絡（層數越多）就越難訓練，因為其準

確率可能會隨著深度的增加而下降。為此，何凱明等人的論文提出了一種殘差

學習框架，采用更深的網絡但卻簡化了網絡的訓練，其思路是顯式地將層重新

定義，參考每層輸入的同時還要學習其殘余函數，即將輸入從卷積層的每個塊

之前添加到輸出中，從而構造成了殘差網絡。實驗結果表明，這些殘差網絡更

容易優化，并且可以從顯著增加的深度中獲得更高的精度。在ImageNet數據

集上，當殘差網絡深度達152層（比VGG網絡深8倍）時，仍然具有較低的

復雜度，且誤差僅為3.57%。[3]

殘差網絡解決了人們對神經網絡分解為更多的層會導致退化的擔心，因為

在最壞的情況下，殘差網絡可以將其他層簡單地設置為恒等映射，從而使之僅

僅退化為一個淺層網絡而已。

2017年，阿希什·瓦斯瓦尼等人發表了論文《你只需要“注意”》。人們

在從事用于翻譯的序列轉換時，通常在編碼器和解碼器結構中運用復雜的遞歸

或卷積神經網絡，為提高性能，人們還會加入注意力機制來連接編碼器和解碼

器。該論文提出了Transformer模型。這是一種完全依賴于注意力機制來構建

[1]趙楠，譚惠文.人工智能技術的發展及應用分析[J].中國電子科學研究院學報，2021，

16(07)：737-740.

[2]王嫄，解文霞，孔德莉，高喜平.論人工智能技術應用研究現狀和發展前景[J].科技與

創新，2019(20)：18-21.

[3]譚鐵牛.人工智能的歷史、現狀和未來[J].智慧中國，2019(Z1)：87-91.

9

人工智能的倫理問題及其治理研究

輸入和輸出之間全局依賴關系的模型，其不再需要遞歸和卷積神經網絡，更易

于并行化，在8個P100GPU上只訓練12個小時就可以使翻譯質量達到更高

的新水平。在兩個機器翻譯任務上的實驗表明，模型具有更高的質量以及更高

的并行性，訓練時間也顯著減少。Transformer模型在很大程度上優于循環神

經網絡（RNN），這是因為在超大型網絡中前者具有計算成本上的優勢。RNN

中的長距離傳播梯度會導致內存訪問成為瓶頸，因此需要更復雜的LSTM

（LongShort-TermMemory，長短期記憶網絡）和GRU（GatedRecurrentUnit，

門控循環單元）模型。相比之下，Transformer模型針對高度并行處理進行了

優化，其計算成本最高的部分是注意力層之后的前饋網絡，這可以并行化應用。

再就是注意力層本身，這是大矩陣乘法，也容易優化。Transformer模型單純

使用注意力機制，放棄了卷積，這種大道至簡的做法，把基于“注意”的序列

神經模型推向了高潮，現在已成為幾乎所有最新自然語言處理模型的基礎。[1]

當然，深度神經網絡也并非完美無缺。如果僅僅進行簡單的訓練，深度神

經網絡可能會出現很多問題，如過擬合問題、可靠性問題、不可解釋性問題等。

目前尚無完備的理論能夠對其做出合理解釋，隨著越來越多的人工智能算法應

用在實際生產生活中，不可解釋的問題則會存在產生結果不可控的隱患。

（二）解決不同軟硬件的適配

在實際工程應用中，開發者在開發人工智能應用時往往有多種軟件框架可

供選擇，各種選擇也均能取得不錯的效果。同時，開發者也有多種硬件選項可

供選擇。但是軟件框架和硬件選項的多樣性也帶來了一些在所難免的問題。第

一個問題就是不同軟件框架的適用性問題。由于各個軟件框架的底層實現方法

不一樣，不同軟件框架下開發的人工智能模型很難快速轉換。比如開發者在

TensorFlow框架下開發了一個人臉識別神經網絡并將其開源，而其他框架（如

PyTorch、PaddlePaddle等）的忠實愛好者很難直接使用TensorFlow中的神經

網絡模型，還需要對開源的模型進行重構，才能在新的軟件框架下成功運行。

第二個問題是軟件框架和硬件的適配性問題。計算芯片發展迅速，而軟件框架

往往很難跟上芯片的發展，從而導致底層芯片和軟件框架的不適配，使得人工

智能算法遇到一些莫名的錯誤。業界也有公司提出了針對深度神經網絡模型的

[1]譚鐵牛.人工智能的歷史、現狀和未來[J].智慧中國，2019(Z1)：87-91.

10

第一章人工智能

編譯器，旨在通過擴充面向深度學習模型的各項專屬功能，解決深度學習在不

同軟件框架、不同硬件設備之間的適配性和可移植性問題。

但是，這樣的編譯器暫時沒有統一的標準，各硬件廠商在中間表示層的競

爭也成了人工智能技術實用化的阻礙。如何從模型底層、硬件、存儲、計算及

優化等方面形成統一的標準，將是影響人工智能快速應用和普及的重要環節。

1.中間表示層解決可移植性問題

在具體的工程實踐和應用中，一般采用中間表示（Intermediate

Representation，IR）層的規定將人工智能模型（訓練完成以后的模型）進行表

達和存儲。中間表示層可以看作是很多中間件的集合，使用中間表示層可以優

化程序性能、提升通信效率。深度學習訓練軟件框架實現方式各異，為了打通

不同的軟件框架和不同的表達模式，擴充中間表示層可以使深度學習網絡模型

編譯器更加有效地工作。在深度學習網絡模型編譯器中，通過新增加的專屬中

間件可以實現終端側模型適配并可運行在不同的軟硬件平臺。當前支持中間表

示層的包括亞馬遜云服務（AWS）所推出的NNVM/TVM（1231和谷歌所推

出的XLA-TensorFlow。

華盛頓大學保羅·艾倫計算機科學與工程學院的亞馬遜云服務AI團隊于

2017年9月在DMLC開源社區發布了TVM堆棧，旨在彌合深度學習框架與

面向性能或效率的硬件后端之間的鴻溝。TVM堆棧使深度學習框架可以輕松

地構建端到端編譯。同年10月，威斯康星大學艾倫分校和AWS的AI團隊正

式發布NNVM編譯器。作為一種開放式深度學習編譯器，NNVM編譯器將前

端框架工作負載直接編譯到硬件后端，從而提供了一種適用于所有框架的統一

解決方案。NNVM與TVM的聯手，使得NNVM編譯器借助TVM堆?？梢?/p>

實現：①在高級圖中間表示層中表示并優化常見的深度學習工作負載；②轉換

計算圖，最大限度地降低對內存的使用，優化數據布局并融合不同硬件后端的

計算模式；③提供從前端深度學習框架到裸機硬件的端到端編譯管道。

XLA（加速線性代數）是谷歌推出的一種針對特定領域的線性代數編譯器，

能夠優化TensorFlow計算。它可以提高服務器和移動平臺的運行速度，改進

內存使用情況和可移植性。TensorFlow是一種靈活且可擴展的深度學習框架，

可定義任意數據流圖并使用異構計算設備以分布式方式高效執行。但Tensor

Flow的靈活性與其目標性能不符，盡管TensorFlow旨在支持定義任何類型的

11

人工智能的倫理問題及其治理研究

數據流圖，但要使所有圖都能夠高效執行卻是一件很有挑戰的事情。當各操

作之間的權重不同時就不能保證這樣的組合可以以最有效的方式運行。為此，

谷歌內部的XLA團隊與TensorFlow團隊合作，于2017年3月推出了XLA-

TensorFlow，用XLA作為TensorFlow的編譯器。XLA使用JIT編譯技術來

分析用戶在運行時創建的TensorFlow圖，將多個操作融合在一起，并為不同

CPU、GPU以及自定義加速器生成高效的本機代碼。

2.模型轉換及其交換格式

為了解決不同軟硬件的適配問題，除了使用統一的中間表示層對模型進行

統一的表達及存儲外，輸入數據的格式也需要進行處理。由于不同的軟件框架

實現方式不一樣，它們定義的輸入數據格式也各有不同，并會采用不同的技術

實現數據操作。例如，TensorFlow定義了TFRecord，這是一種用于存儲二進

制記錄序列的簡單格式，將數據序列化并存儲在一組可以線性讀取的文件（每

個文件100—200MB）中，可支持高效地讀取數據，同時也有助于緩存數據的

預處理。而MXNet及PaddlePaddle框架使用的是RecordIO，這是一組二進制

數據交換格式，其基本思想是將數據分成單獨的塊（也稱為“記錄”），先在

每個記錄之前添加該記錄的長度值（以字節為單位），然后再保存記錄中的數

據。但是，RecordIO并沒有正式的格式規范，因此RecordIO在實際使用時往

往存在一些不兼容的問題。

深度學習網絡模型的表示規范主要有兩類：一類是Facebook和Microsoft

創建的社區項目所推出的ONNX（OpenNeuralNetworkExchange，開放神經

網絡交換）；另一類是由開放行業聯盟Khronos集團所推出的NNEF（Neural

NetworkExchangeFormat，神經網絡交換格式）。

ONNX是由Facebook和Microsoft創建的社區推出的一種代表深度學習模

型的開放格式，可使模型在不同軟件框架之間進行轉移。ONNX支持的軟件

框架目前主要包括Caffe2、PyTorch、CognitiveToolkit、MXNet等，而谷歌的

TensorFlow并沒有被包含在內。ONNX有兩個主要特點。

（1）框架的互操作性：通過啟用互操作性可以更快地將設計付之實現。

ONNX讓模型可以在一個框架中進行訓練，然后轉移到另一個框架中進行推理。

ONNX模型已得到Caffe2、CognitiveToolkit、MXNet和PyTorch的支持，并

且具有許多其他常見的框架和庫的連接器。

12

第一章人工智能

（2）硬件優化：0NNX通過硬件優化覆蓋更多的開發人員。任何導出

ONNX模型的工具都可以從ONNX兼容的RUNTIME和庫中受益。這些

RUNTME和庫旨在最大限度地提高深度學習領域某些硬件的最佳性能。2019

年7月，0NNXv1.6正式推出，使用新數據類型和運算符可以支持更多的模型。

NNEF支持不同設備、平臺的應用可以使用豐富的神經網絡訓練工具和推

理引擎（及其組合），能很大程度減少機器學習的零散部署。NNEF支持包括

PyTorch、Caffe2、TensorFlow等大多數人工智能軟件框架的模型格式轉換。

目前已經有30多家計算芯片企業參與到NNEF中。NNEF的目標是讓使用者

能夠輕松地將經過訓練的神經網絡轉移到各種各樣的推理引擎中。由于神經

網絡在邊緣設備上廣泛應用，制造商對于NNEF的依賴是至關重要的。因此，

NNEF封裝了一個訓練神經網絡的結構、操作和參數的完整描述，使之獨立于

用于產生它的訓練工具和用于執行它的推理機。

（三）算力大幅提升的貢獻

人工智能技術的飛速發展也離不開算力的大幅提升。近年來涌現的許多新

型高性能計算架構也成了人工智能技術發展的催化劑。深度學習算法需要對網

絡連接權重進行多次調整，也需要很高的計算能力的支撐。由于集成電路按

摩爾定律迅速發展，使計算成本迅速下降，同時云計算的出現、GPU的大規

模應用等，這些都使得針對集中化數據的計算能力變得前所未有的強大。與

此同時，計算芯片的架構也逐漸向深度學習應用優化的趨勢發展，以傳統的

CPU為主、GPU為輔的英特爾公司也開始聯手AMD公司，推出整合了AMD

VegaGPU的全新產品Inteli7-8809GCPU。因此說，人工智能的爆發式發展在

很大程度上與硬件算力的提升有關。

（四）移動互聯網與傳感器的貢獻

移動互聯網的迅猛發展也是促進人工智能發展的重要因素。移動互聯網的

出現使智能設備時刻與人類相伴，通過智能設備能夠采集到足夠充分和完整的

數據。相比個人計算機，智能設備便于攜帶，并且智能手機、智能手環等可穿

戴設備貫穿于人們的日常生活之中。這些設備貢獻的數據是完善的和連續的，

為后續信息處理和人工智能算法的訓練提供了基礎。另外，移動互聯網為人們

帶來了不同的使用場景和使用習慣。比如移動互聯網讓人們可以更傾向于進行

語音輸入，而非鍵盤輸入；解鎖手機的時候更傾向于刷臉解鎖，而非輸入開機

13

人工智能的倫理問題及其治理研究

密碼或圖案。這些使用場景和使用習慣在很大程度上也促進了圖像識別、語音

識別、自然語言處理等核心技術的發展。受智能手機、可穿戴設備等爆發式增

長的推動，傳感器無論在數量上還是在質量上都有了巨大的飛躍。傳感器的發

展，如LIGA（光刻）等微電子技術日趨成熟，使得機器的感知能力變強，進

而為機器變“聰明”奠定了基礎。通過這些感知能力強的傳感器，人們可以獲

取更準確的數據，如每天走路的步數、心率的變化數據等。

數據是人工智能快速發展的基石，人工智能依賴于數據支持。據WeAre

Social和Hootsuite兩家機構發布的《2019年全球數字報告》顯示，全球互聯

網用戶數已經突破了51億，而移動設備數量巨大，意味著移動設備所貢獻的

數據量逐漸會成為主流。

第二節人工智能的三個學術流派

一、符號主義

符號主義是指符號人工智能，也被稱為邏輯主義、心理學派或計算機學派，

其依托的是一種基于問題、邏輯和搜索的高級符號處理體系，其基礎主要為物

理符號系統假設和有限合理性原理。在人工智能中，符號認知的基本要素是符

號，通過將信息和行為抽象到基于符號規則的物理符號系統中，利用計算機邏

輯推理模擬人類的抽象思維，實現了智能行為的模擬。

1955年，西蒙意識到能夠操縱符號的機器可以很好地模擬決策行為，甚

至能模擬人類思想的過程，他與紐厄爾開始討論教機器思考的可能性。他們

邀請了約翰·肖于1956年編寫了一個命名為“邏輯理論家”（LogicTheorist，

LT）的程序。這是第一個模仿人類進行問題求解的程序，也被稱為“第一個

人工智能程序”。LT建立了啟發式程序設計領域，并很快證明伯特蘭·羅素和

艾爾費雷德·懷特黑德著的《數學原理》第二章前52個定理中的38個定理，

其中一個定理的證明比羅素和懷特黑德的手工證明顯得更優雅。1956年，西

蒙和紐厄爾作為人工智能首次會議——達特茅斯會議的受邀參加者，在會上介

紹了他們所發明的“邏輯理論家”，這項成果被認為是此次會議的一個亮點。

14

第一章人工智能

1956年，著迷于研究計算機下棋的麥卡錫發起并參加了達特茅斯會議，

他在會議上介紹了他所提出的α-β搜索算法。該算法是會議的亮點之一、通

過設置棋類博弈中己方必須考慮的不能輸棋的下限因素α和對手必須考慮的

需要贏棋的上限因素β作為判定條件，判斷哪些選擇是在上下界之外的，那

就表明這些選擇可以不予考慮，由此可以將搜索樹的空間剪枝為原來的平方根

級別。1997年，戰勝國際象棋大師卡斯帕羅夫的“深藍”就是使用的α-β搜

索算法。麥卡錫在達特茅斯會議上指出：這次會議是基于這樣的推測，即原則

上可以精確地描述學習的各個方面或智能的任何特征，從而可以制造出能夠模

擬它的機器。[1]在麥卡錫的推動下，使用符號描述或學習智能的特征一直是人

工智能的研究重點。1956年，麥卡錫與香農合著《自動機研究》一書；之后，

麥卡錫還發明了人工智能符號語言LISP（listprocessinglanguage，表處理語言）。

該語言一度成為人工智能的代名詞，進一步奠定了麥卡錫在人工智能領域中的

地位。

麥卡錫、西蒙和紐厄爾的早期推動，以及他們在符號主義人工智能方面的

貢獻，使得他們被譽為符號主義學派的奠基人。

符號主義學派認為，人們通過使用不同的符號進行變流，可以更加容易地

相互理解，這也是人類變得聰明的主要原因之一；認知過程是在符號表示上的

一種運算，可以通過計算機進行符號操作從而模擬人的認知過程。符號主義學

派的研究思路一般可以分為三步：第一步是研究并理解人類認知系統的功能機

理；第二步是使用符號和基于符號的運算描述人類的認知過程；第三步是利用

計算機系統實現符號的表示和基于符號的運算，從而模擬人類的認知過程，實

現人工智能。符號主義學派的特點體現在其自上而下地通過推理演繹的方式實

現人工智能。從符號主義學派的觀點來看，人工智能的核心問題是知識表示、

知識推理與知識運用。知識是構成智能的基礎，是信息的一種表現形式：知識

可以使用符號進行表示，而認知是對符號的處理過程；推理是采用啟發式方式

對問題求解的過程，也是可以用某種形式化的符號及語言進行描述的。因此，

通過符號的表示、處理、計算等有可能建立起基于知識的人類智能和機器智能

的統一理論體系。

[1]林永青.人工智能起源處的“群星”[J].金融博覽，2017(05)：46-47.

15

人工智能的倫理問題及其治理研究

符號主義學派的研究者在1956年首先采用了“人工智能”這個術語，后

來發展出了多種啟發式技術、專家系統、知識工程等理論及技術，為早期人工

智能的發展和應用奠定了基礎。其中，專家系統可以基于專家知識設計計算機

程序來解決復雜問題，是一種典型的符號化計算范例。專家系統結合了專家知

識，能精確地通過符號計算來處理規則，并進行推理，如使用產生式規則網絡，

以類似于If-Then語句的關系連接符號來支撐推理過程，從而根據實際問題可

以設計和實現不同領域的專家系統。

由于專家系統的多方面優勢，使得符號主義在相當長的一段時間內占據了

人工智能研究的主流地位，尤其是20世紀70年代后出現了大量結合領域知識

的專家系統，促進人工智能技術進入實際工程應用中。通過定義邏輯推理相關

的符號及操作，可以創建執行各種任務的符號人工智能程序，面向對象的程序

設計（ObjectOrientedProgramming，OOP）也可以說是符號人工智能的一個

典型成果。

由于符號主義的思想體系在20世紀50年代中期至80年代末期一直主導

著人工智能的發展，并成為人工智能研究的主要范例，因此符號主義的研究方

法被學者視為傳統的人工智能方法。該方法假設可以通過操縱符號來實現部分

智能。這一假設被紐厄爾和西蒙定義為“物理符號系統假說”。約翰·豪格蘭

在其1985年的著作《人工智能：非凡的想法》中將這種傳統的人工智能方法

稱為GOFAI（GoodOld-FashionedArtificialIntelligence，出色的老式人工智能），

并將其命名為符號人工智能。

符號人工智能的一個鮮明特點是邏輯演繹特性，這使其行為具有可解釋

性，人們可以輕松地可視化展示基于規則的程序的邏輯，從而可以對其系統進

行故障檢查。對于規則非常清晰的輸入事務，符號人工智能可以輕松地獲取規

則描述并將其轉換為符號，從而進行邏輯演繹。由于邏輯演繹具有很好的可解

釋性，在符號表達完整、規則描述清晰的系統上取得了良好的應用效果。

符號主義曾長期一枝獨秀，尤其是專家系統的成功開發與應用為人工智能

技術從理論走向工程實踐起到了至關重要的作用，為人工智能的發展做出了重

要貢獻。盡管人工智能的其他學派先后出現，符號主義依然是人工智能的主流

學派。近些年出現的知識圖譜技術為符號主義學派注入了新的生機和活力。盡

管知識圖譜并不是規則模式，自身并不具有直接的推理能力，但其是知識工程

16

第一章人工智能

的一種形態，可以擁有龐大的知識庫，且通過符號之間的連接，可將相關的內

容有機地關聯起來，再通過基于知識庫的各種服務提供抽取、搜索等服務，還

可以基于已知的關系推演出未知的關系，從而反映出一種廣義的推理能力，表

達出其智能特性。知識圖譜的構造過程有兩種：一種是通過信息抽取技術抽取

出已有的知識；另一種是通過傳統的符號推理方法生成新的知識。

二、連接主義

連接主義（connectionism，也可翻譯為“聯結主義”）學派也被稱為仿生

學派或生理學派，其研究方法是一種基于網絡連接機制和學習算法的智能模擬

方法。當前，這一學派在人工智能研究領域同樣占有重要地位。

連接主義的提出可追溯到1943年生理學家沃倫·麥卡洛克和數理邏輯學

家沃爾特·皮茨所發表的文章《神經活動中內在思想的邏輯演算》。該文章提

出了神經元的M-P（McCul-loch-Pitts）數學模型，提出了用形式化方式描述

神經元和網絡結構的方法，開創了使用電子裝置模仿人腦結構和功能的新途徑。

M-P模型一直沿用至今，成為神經元最基本的結構。這篇文章認為，人類的

認知系統和智能行為是人腦高層活動的結果，智能活動是由大量簡單的神經元

通過復雜的相互連接后并行運行的結果。

1951年，馬文·明斯基和迪安·埃德蒙茲合作設計了世界上第一臺人

工神經網絡自學習機器——SNARC（StochasticNeuralAnalogReinforcement

Calculator，隨機神經模擬強化計算器）。SNARC由3000個真空管構成，模擬

了40個神經元的運行，其最初目的是學習如何穿越迷宮。在經過不斷的嘗試

后，SNARC學會一些解決問題的方法，由此形成了基于連接主義的人工智能

發展道路。明斯基也是1956年達特茅斯會議的發起者之一。他在會議上介紹

了SNARC的工作，被認為是值得關注的學術成果。這也是明斯基被視為連接

主義奠基人的原因之一。

連接主義學派使用基于神經網絡的模擬方法，以工程技術手段模擬人腦神

經系統的結構、功能等，通過大量的并行處理器模擬人腦中數量龐大的神經細

胞（神經元），用處理器互相之間的連接關系模擬人腦中神經細胞突觸之間的

連接行為。人工神經網絡首先將多個神經元組成一層網絡，再由多層這樣的網

絡通過互相連接實現一個完整的神經網絡，然后利用大量的數據訓練這一網

17

人工智能的倫理問題及其治理研究

絡，用學習算法調整神經元之間的連接權重，從而使神經網絡不斷完善。人工

神經網絡技術開辟了人工智能的又一發展道路。

20世紀60年代出現的感知機（perceptron）模型可以根據訓練數據自動調

整M-P模型中連接的權重，以此機制建立的腦模型一度備受關注，但是受到

當時各種技術條件的限制，腦模型的研究在20世紀70年代后期至80年代初

期進入低潮。直到約翰·霍普菲爾特教授先后在1982年和1984年發表了該領

域的兩篇重要論文，提出用硬件模擬神經網絡的方法，連接主義才又重受重視。

1986年，大衛·魯梅爾哈特等人提出在多層神經網絡中調整連接權重的反向

傳播算法，在理論研究上取得了巨大突破。此后，連接主義人工智能勢頭大振，

從模型到算法，從理論研究到工程實現，神經網絡逐步從學術界走向工業界，

開始在多個領域逐步普及并走向市場。

2007年，連接主義的領軍者辛頓提出了深度學習算法，大大提高了神經

網絡的學習能力。根據《麻省理工技術評論》的2013年4月的報道，2013年

3月，谷歌收購了辛頓所創辦的初創企業，以便“把這一領域的想法拿出來，

應用到實際問題上”，比如應用到圖像識別、搜索和自然語言理解等實際場合；

谷歌當時的神經網絡擁有超過10億個連接，通過深度學習技術，能識別人類

從未定義或標記過的物體；微軟美國研究部主管彼得·李表示，深度學習重

新引發了人工智能領域的一些重大挑戰。[1]微軟首席研究官里克·拉希德2012

年10月在中國的一次演講中演示了一款語音處理軟件。該軟件將他的口語轉

換成英語文本（錯誤率僅僅約為7%），并翻譯成中文文本，然后模擬他自己的

聲音用中文普通話朗讀。

深度學習算法被認為是最接近模擬人類大腦智能學習的過程，逐漸成為

人工智能必不可少的組成部分，包括BM的“沃森”、谷歌的搜索引擎以及

Facebook的算法都離不開深度學習。由于眾多企業大力推進深度學習技術，

并將其應用于語音識別、圖像識別、自然語言處理等領域，《麻省理工技術評

論》把深度學習列入了2013年度十大技術突破之一，稱“深度學習借助強大

的計算能力，使得機器現在可以識別對象并實時翻譯語音。人工智能終于變得

聰明了。”

[1]劉菊，鐘紹春.網絡時代學習理論的新發展——連接主義[J].外國教育研究，2011，

38(01)：34-38.

18

第一章人工智能

連接主義的主要優勢在于神經網絡可以從訓練數據中發現規則。首先，用

戶提供樣本數據，包括輸入數據和對應的輸出數據（數據集越大越好）；然后，

連接主義算法應用統計回歸模型來調整其中間變量的權重系數，直到找到最佳

擬合模型為止。使用諸如梯度下降之類的技術，可在使所有訓練數據點的累積

誤差最小化的方向上調整權重。由于這些技術是有效地使錯誤率最小化的算

法，因此它們具有固有的“抗噪”能力。它們將消除異常值，并使誤差收斂在

一定范圍內，從而得到良好的對數據進行分類的解決方案。

連接主義算法不需要實際模型，它們只需要足夠的樣本數據，就可以從統

計學上推斷出實際模型。這是一個非常強大的特性，但也是一個弱點，因此輸

入功能必須非常仔細地選擇，避免出現錯誤污染，還必須對其進行歸一化或縮

放，避免一個功能勝過另一個功能。

人們經常提到的語音識別、語音處理、機器