計算機工程倫理 課件 楊文陽 第6-10章 軟件質(zhì)量、安全與風險控制- IT職業(yè)道德與社會責任

21世紀高等學校計算機類課程創(chuàng)新系列教材第6章軟件質(zhì)量、安全與風險控制0102030421世紀高等學校計算機類課程創(chuàng)新系列教材05目錄CONTENT軟件質(zhì)量概述軟件質(zhì)量管理信息安全概述信息安全管理風險控制軟件質(zhì)量問題引發(fā)的事故1985年到1987年間，Therac25放射性治療儀因輸入數(shù)據(jù)順序問題的缺陷，導(dǎo)致10余人死亡。這一事故凸顯了軟件質(zhì)量問題可能帶來的嚴重后果，即使是微小的缺陷也可能危及生命。1991年，第一次海灣戰(zhàn)爭中，愛國者導(dǎo)彈系統(tǒng)因時間計算不精確和算數(shù)計算錯誤，未能攔截飛毛腿導(dǎo)彈，造成28名士兵死亡。這表明軟件在軍事領(lǐng)域的可靠性至關(guān)重要，任何失誤都可能導(dǎo)致災(zāi)難性后果。1996年，歐洲阿麗亞娜（ARIANE5）火箭由于軟件運算位數(shù)錯誤，火箭的水平速度計算時產(chǎn)生了溢出造成火箭在高速下進行大角度水平滾轉(zhuǎn)，導(dǎo)致該型號火箭首次測試發(fā)射后37秒被迫自行引爆。1999年，NASA火星氣候探測器由于在控制軟件中忘記將一處英制單位轉(zhuǎn)換為公制單位，導(dǎo)致飛船在接近火星表面時偏離了正確的軌道，因為軌道過低而墜入火星大氣層意外解體。此次事故使得花費數(shù)億美元的飛船化為灰燼，同時對后續(xù)火星氣象探測以及火星極地著陸器通訊中繼任務(wù)造成了嚴重的不利影響。2003年，俄羅斯聯(lián)盟TMA1號載人飛船由于軟件故障使返回艙的導(dǎo)航系統(tǒng)失效，造成飛船返回時與飛控中心失聯(lián)十余分鐘。該故障還導(dǎo)致飛船的降落地點嚴重偏離預(yù)定降落點，距離偏差達近五百公里。2019年，美國星際客機（Starline）航天飛船由于“數(shù)據(jù)檢索”軟件出錯，收集了錯誤的任務(wù)時間，使得飛船誤判任務(wù)階段而提前消耗掉大部分燃料，無法按預(yù)期與國際空間站實現(xiàn)對接，被迫提前返回地球，首次測試飛行任務(wù)宣告失敗。軟件質(zhì)量問題引發(fā)的事故

如何控制和保證軟件的質(zhì)量已成為系統(tǒng)質(zhì)量管理的關(guān)鍵問題。

提高軟件質(zhì)量、設(shè)計開發(fā)出更高質(zhì)量的軟件產(chǎn)品成為了項目總體以及軟件開發(fā)人員的一致目標。21世紀高等學校計算機類課程創(chuàng)新系列教材軟件質(zhì)量6.1軟件的定義軟件質(zhì)量是指軟件產(chǎn)品滿足基本需求及隱式需求的程度。它包括軟件的功能性、可靠性、可用性、效率、可維護性和可移植性等多個方面。高質(zhì)量的軟件不僅滿足顯式需求，還能滿足用戶的潛在需求，如提供額外的功能或優(yōu)化用戶體驗。從軟件質(zhì)量的定義，可將軟件質(zhì)量分為3個層次，具體如下。（1）滿足需求規(guī)定：軟件產(chǎn)品符合開發(fā)者明確定義的目標，并且能可靠運行。（2）滿足用戶需求：軟件產(chǎn)品的需求是由用戶產(chǎn)生的，軟件最終的目的就是滿足用戶需求，解決用戶的實際問題。（3）滿足用戶隱式需求：除了滿足用戶的顯式需求，軟件產(chǎn)品如果滿足用戶的隱式需求，即潛在的可能需要在將來開發(fā)的功能，將會極大地提升用戶滿意度,這就意味著軟件質(zhì)量更高。所謂高質(zhì)量的軟件，除了滿足上述需求之外，對于內(nèi)部人員來說，它應(yīng)該也是易于維護與升級的。軟件開發(fā)時，統(tǒng)一的符合標準的編碼規(guī)范、清晰合理的代碼注釋、形成文檔的需求分析、軟件設(shè)計等資料對于軟件后期的維護與升級都有很大的幫助，同時，這些資料也是軟件質(zhì)量的一個重要體現(xiàn)。6.1.1軟件及其復(fù)雜性軟件的定義軟件質(zhì)量是指軟件產(chǎn)品滿足基本需求及隱式需求的程度。它包括軟件的功能性、可靠性、可用性、效率、可維護性和可移植性等多個方面。高質(zhì)量的軟件不僅滿足顯式需求，還能滿足用戶的潛在需求，如提供額外的功能或優(yōu)化用戶體驗。從軟件質(zhì)量的定義，可將軟件質(zhì)量分為3個層次，具體如下。（1）滿足需求規(guī)定：軟件產(chǎn)品符合開發(fā)者明確定義的目標，并且能可靠運行。（2）滿足用戶需求：軟件產(chǎn)品的需求是由用戶產(chǎn)生的，軟件最終的目的就是滿足用戶需求，解決用戶的實際問題。（3）滿足用戶隱式需求：除了滿足用戶的顯式需求，軟件產(chǎn)品如果滿足用戶的隱式需求，即潛在的可能需要在將來開發(fā)的功能，將會極大地提升用戶滿意度,這就意味著軟件質(zhì)量更高。所謂高質(zhì)量的軟件，除了滿足上述需求之外，對于內(nèi)部人員來說，它應(yīng)該也是易于維護與升級的。軟件開發(fā)時，統(tǒng)一的符合標準的編碼規(guī)范、清晰合理的代碼注釋、形成文檔的需求分析、軟件設(shè)計等資料對于軟件后期的維護與升級都有很大的幫助，同時，這些資料也是軟件質(zhì)量的一個重要體現(xiàn)。6.1.1軟件及其復(fù)雜性軟件質(zhì)量評價標準ISO/IEC9126:1901標準所包含的6大特性的具體含義如下。（1）功能性：在指定條件下，軟件滿足用戶顯式需求和隱式需求的能力。（2）可靠性：在指定條件下使用時，軟件產(chǎn)品維持規(guī)定的性能級別的能力。（3）可使用性：在指定條件下，軟件產(chǎn)品被使用、理解、學習的能力。（4）效率：在指定條件下，相對于所有資源的數(shù)量,軟件產(chǎn)品可提供適當性能的能力。（5）可維護性：指軟件產(chǎn)品被修改的能力。修改包括修正、優(yōu)化和功能規(guī)格變更的說明。（6）可移植性：指軟件產(chǎn)品從一個環(huán)境遷移到另一個環(huán)境的能力。這6大特性及其子特性是軟件質(zhì)量標準的核心，軟件測試工作就從這6個特性和27個子特性去測試、評價一個軟件的。ISO/IEC9126:1991是最通用的軟件質(zhì)量評價國際標準，將軟件質(zhì)量分為功能性、可靠性、可用性、效率、可維護性和可移植性六大特性。該標準不僅對軟件質(zhì)量進行了定義，還制訂了軟件測試的規(guī)范流程，包括測試計劃的撰寫、測試用例的設(shè)計等，為軟件質(zhì)量評價提供了全面的指導(dǎo)。全面客觀地評價軟件質(zhì)量有助于提高軟件的市場競爭力。高質(zhì)量的軟件更容易獲得用戶的認可和市場的青睞。軟件質(zhì)量評價為軟件改進提供了依據(jù)，幫助開發(fā)者發(fā)現(xiàn)軟件中的問題并進行優(yōu)化。ISO/IEC9126:1991標準軟件質(zhì)量評價的重要性軟件質(zhì)量評價標準””21世紀高等學校計算機類課程創(chuàng)新系列教材軟件工程0201軟件危機的產(chǎn)生早期軟件開發(fā)缺乏系統(tǒng)化方法，多為個體化開發(fā)，導(dǎo)致軟件質(zhì)量差、開發(fā)效率低下。隨著計算機技術(shù)的發(fā)展，軟件規(guī)模逐漸增大，軟件危機逐漸顯現(xiàn)。軟件危機的主要表現(xiàn)包括項目超期、超預(yù)算，甚至失敗，給企業(yè)和用戶帶來了巨大的損失。02軟件危機的影響軟件危機導(dǎo)致項目超期、超預(yù)算，甚至失敗。例如，許多大型軟件項目因無法按時交付而被迫取消，給企業(yè)帶來了巨大的經(jīng)濟損失。軟件危機促使人們尋求更有效的軟件開發(fā)方法，推動了軟件工程的發(fā)展。軟件危機軟件工程有助于提高軟件質(zhì)量，降低開發(fā)成本。通過系統(tǒng)化的開發(fā)方法，可以減少軟件中的缺陷，提高軟件的可靠性。軟件工程為軟件開發(fā)提供了科學的管理方法，幫助開發(fā)者更好地控制項目進度和成本。軟件工程的概念軟件工程的重要性軟件工程的定義軟件工程是研究和應(yīng)用系統(tǒng)化、規(guī)范性、可定量的過程化方法開發(fā)和維護軟件。它結(jié)合了經(jīng)過時間檢驗的管理方法和當前最好的技術(shù)方法。軟件工程的目標是在一定成本和進度下，開發(fā)出高質(zhì)量的軟件產(chǎn)品，滿足用戶需求。軟件可靠性的定義軟件可靠性是指在規(guī)定條件下和規(guī)定時間內(nèi)，軟件不引起系統(tǒng)失效的概率。它是軟件質(zhì)量的重要指標之一。軟件可靠性的高低直接影響系統(tǒng)的穩(wěn)定性和用戶的信任度。軟件可靠性的重要性在安全攸關(guān)的復(fù)雜軟件系統(tǒng)中，如航空、醫(yī)療等領(lǐng)域，軟件可靠性至關(guān)重要。例如，飛機的飛行控制系統(tǒng)必須具備極高的可靠性，以確保飛行安全。提高軟件可靠性有助于減少系統(tǒng)故障，保障用戶安全，提升用戶體驗。軟件可靠性軟件容錯的概念軟件容錯是指當出現(xiàn)設(shè)計錯誤時，軟件仍能繼續(xù)提供服務(wù)，從而將系統(tǒng)性能和安全性控制在可接受的范圍內(nèi)。容錯策略的選擇依賴于系統(tǒng)層面和軟件設(shè)計的考慮，是軟件開發(fā)中不可或缺的一部分。容錯實際是建立在悲觀假設(shè)上的技術(shù)，那就是沒有消除所有的故障。容錯設(shè)計的策略主要是保證系統(tǒng)正常并且按時正確的完成任務(wù)。支撐所有容錯的一個基本思想就是冗余。使用冗余來從不可靠的組件中構(gòu)造可靠的軟件最早是由VonNeumann在1956年提出的。冗余（多個復(fù)本）用來檢測故障和掩蔽失效。容錯機制的類型功能冗余：通過復(fù)制軟件單元來檢測故障。例如，航天軟件中常用功能冗余設(shè)計，通過多個獨立的軟件模塊實現(xiàn)同一功能，確保即使部分模塊出現(xiàn)故障，系統(tǒng)仍能正常運行。數(shù)據(jù)冗余：用額外信息檢測數(shù)據(jù)一致性。例如，數(shù)據(jù)庫系統(tǒng)中常用數(shù)據(jù)冗余技術(shù)，通過備份和校驗機制確保數(shù)據(jù)的完整性和一致性。時間冗余：使用額外時間完成容錯。例如，對于可能出現(xiàn)瞬時故障的系統(tǒng)，通過重新執(zhí)行操作來恢復(fù)系統(tǒng)狀態(tài)，確保系統(tǒng)的可靠運行。軟件容錯機制軟件測試是保證軟件安全的關(guān)鍵技術(shù)，也是保證軟件質(zhì)量和可靠性的重要方法。在大型軟件開發(fā)項目中，測試工作量一般占據(jù)開發(fā)總工作量的40%以上。測試可以發(fā)現(xiàn)、定位并排除軟件中的安全隱患，監(jiān)測軟件的行為和數(shù)據(jù)變化，為軟件質(zhì)量評價提供直接證據(jù)。測試無法窮舉所有路徑，無法發(fā)現(xiàn)程序中的最后一個bug。例如，一個僅有20行代碼的程序，其可能的路徑數(shù)量巨大，窮舉測試幾乎是不可能的。測試的目的是讓程序執(zhí)行失敗，發(fā)現(xiàn)錯誤，而不是驗證程序的正確性。測試只能表明錯誤的存在，而不能表明錯誤的不存在。軟件測試的重要性軟件測試的局限性軟件測試及其局限性21世紀高等學校計算機類課程創(chuàng)新系列教材軟件安全03【案例6-1】2018年10月29日，印尼獅航JT610航班從雅加達起飛僅13分鐘后墜入爪哇海，機上189人全部遇難。2019年3月10日，埃塞俄比亞航空ET302航班從亞的斯亞貝巴飛往肯尼亞內(nèi)羅畢，飛機起飛僅6分鐘后墜毀，機上157人全部遇難。上述兩起空難都使用了波音737Max-8型飛機。事故調(diào)查結(jié)果發(fā)現(xiàn)：客機中的自動防失速系統(tǒng)（MCAS）導(dǎo)致了兩起致命空難。兩起事故中，飛機的自動防失速系統(tǒng)為了回應(yīng)錯誤的迎角信息而自動啟動，飛機的自動防失速系統(tǒng)設(shè)計和認證沒有充分考慮飛機失控的可能性。相關(guān)案例【案例6-2】2016年2月7日，日本成功發(fā)射了一顆造價2.86億美元，名為“瞳”的衛(wèi)星，衛(wèi)星上攜帶的X射線檢測儀器被寄予厚望，有望揭開黑洞等宇宙未解之謎，但時隔一個月后，“瞳”卻因自旋而解體。它的設(shè)計壽命為10年，卻未能正式工作10天。事后分析發(fā)現(xiàn)，衛(wèi)星的解體是由一個底層軟件錯誤導(dǎo)致的，發(fā)生錯誤的軟件被安裝在了“星體定位跟蹤器”上。衛(wèi)星在經(jīng)過“南大西洋地磁異常區(qū)”的南非東海岸上空時，暴露在相對更高的輻射環(huán)境中，導(dǎo)致了“星體定位跟蹤器”故障。衛(wèi)星的電子設(shè)備當然都是經(jīng)過防輻射處理的，但或許是工程師過于樂觀，或許是“瞳”的運氣太差，當年的地球磁場變化不太合理，數(shù)據(jù)變化太大，超出了衛(wèi)星設(shè)計上限，從而造成了衛(wèi)星的解體。信息安全保護信息的機密性、完整性和可用性。它是信息安全的一個關(guān)鍵問題，關(guān)系到國家、企業(yè)和個人的安全。信息安全威脅可能導(dǎo)致數(shù)據(jù)泄露、系統(tǒng)癱瘓等問題，給用戶帶來巨大的損失。信息安全的重要性1惡意軟件、社會工程、網(wǎng)絡(luò)攻擊等威脅信息安全。例如，勒索軟件通過加密用戶的重要文件，要求用戶支付贖金來解鎖文件。信息安全威脅不僅影響個人用戶，還可能對企業(yè)和國家的安全造成嚴重影響。信息安全的威脅2信息安全的定義隨著互聯(lián)網(wǎng)的普及，軟件安全問題日益突出。例如，2018年印尼獅航JT610航班和2019年埃塞俄比亞航空ET302航班的空難，均因飛機的自動防失速系統(tǒng)（MCAS）設(shè)計缺陷導(dǎo)致，凸顯了軟件安全的重要性。軟件安全是信息安全的重要組成部分，關(guān)系到軟件系統(tǒng)的穩(wěn)定性和用戶的信任度。軟件安全的重要性軟件安全是指軟件在受到惡意攻擊時仍能正確運行。它涉及理解軟件引起的安全風險并管理這些風險。軟件安全是信息安全的重要組成部分，關(guān)系到軟件系統(tǒng)的穩(wěn)定性和用戶的信任度。軟件安全的定義軟件安全的概念可信計算是在計算機中建立硬件信任根，建立信任鏈，從硬件到操作系統(tǒng)再到應(yīng)用，確保整個系統(tǒng)的可信。可信計算平臺通過硬件和軟件技術(shù)的結(jié)合，防范不同類型的安全威脅，確保系統(tǒng)的安全運行。”可信計算有助于提高軟件系統(tǒng)的安全性。例如，可信計算平臺可以防止惡意軟件的入侵，保護用戶數(shù)據(jù)的安全。可信計算平臺通過硬件和軟件技術(shù)的結(jié)合，防范不同類型的安全威脅，確保系統(tǒng)的安全運行。”可信計算的概念可信計算的重要性可信計算與軟件安全21世紀高等學校計算機類課程創(chuàng)新系列教材IT風險分析及防御策略0401IT風險包括完整性風險、存取風險、獲取性風險、體系結(jié)構(gòu)風險和其他相關(guān)風險。不同類型的IT風險對項目有不同的影響，例如，存取風險可能導(dǎo)致數(shù)據(jù)泄露，獲取性風險可能導(dǎo)致數(shù)據(jù)不可用。IT風險的類型02IT風險管理包括風險識別、評估、處理和監(jiān)控。風險識別是采用系統(tǒng)化方法識別項目已知和可預(yù)測的風險。風險評估是對已識別風險進行估計和評價，確定風險發(fā)生的概率與后果。風險處理是制定風險解決方案，最大限度降低風險。風險監(jiān)控是對風險發(fā)生的監(jiān)督和對風險管理的監(jiān)督。IT風險管理IT風險及管理過程合同風險、需求變更風險、溝通不良風險等是常見的IT風險。這些風險可能導(dǎo)致項目超期、超預(yù)算或失敗。例如，合同不科學、不嚴謹可能導(dǎo)致項目邊界和責任界定不清，需求變更無限制可能導(dǎo)致項目進度延誤。常見的IT風險通過科學的合同管理、需求變更控制、溝通機制建立等措施預(yù)防風險。例如，項目建設(shè)之初應(yīng)與各方簽訂補充協(xié)議，明確需求變更控制流程，定期與項目干系方溝通，確保信息暢通。風險預(yù)防措施IT風險分析及預(yù)防措施IT使用者風險意識的概念I(lǐng)T使用者風險意識是指使用者認識到計算機系統(tǒng)的風險性，并自覺規(guī)避風險。培養(yǎng)IT使用者風險意識有助于減少信息安全事件，提高系統(tǒng)的安全性。培養(yǎng)IT使用者風險意識加強賬戶安全管理、軟硬件維護、網(wǎng)絡(luò)防火墻技術(shù)應(yīng)用等措施有助于培養(yǎng)風險意識。例如，定期修改密碼、安裝正版軟件、使用防火墻和殺毒軟件等，可以有效降低信息安全風險。IT使用者的風險意識IT設(shè)計者風險意識是指設(shè)計者對軟件開發(fā)過程中潛在風險的認識。提高IT設(shè)計者風險意識有助于提高軟件安全性，減少安全漏洞。IT設(shè)計者風險意識的概念加強安全培訓、遵循安全開發(fā)規(guī)范等措施有助于培養(yǎng)風險意識。例如，IT設(shè)計者應(yīng)定期參加安全培訓，了解最新的安全技術(shù)和威脅，遵循安全開發(fā)規(guī)范，確保軟件的安全性。培養(yǎng)IT設(shè)計者風險意識IT設(shè)計者的風險意識【案例6-3】宗教文化與軟件開發(fā)人員在印度，宗教文化經(jīng)過千百年的積淀，給印度社會烙下了深深的宗教印記，形成了獨特的價值體系。印度教是印度社會最悠久、最主要、最正統(tǒng)的宗教之一，大部分印度人相信業(yè)報輪回，把精神解脫視為人生最高目的，同時不否認物質(zhì)財富的作用，自覺承擔家庭和社會責任，使得人們安分守己，任勞任怨努力工作。這種印度教教義、種姓制度、踐行“達摩”以及印度教提倡的忠誠美德等宗教文化對IT設(shè)計者的行為產(chǎn)生了作用。加上軟件產(chǎn)業(yè)在印度的崇高地位，軟件從業(yè)人員敬業(yè)而勤奮。尤其是軟件項目員工不厭其煩，將工作中每一個小環(huán)節(jié)全部記錄在案，為軟件企業(yè)獲得認證提供了必不可少的文檔資料，為按時保質(zhì)完成軟件項目提供了保障。相關(guān)案例1.網(wǎng)上查詢資料，列舉兩個復(fù)雜系統(tǒng)失敗的案例，并分析其原因。2.什么是軟件危機？軟件危機出現(xiàn)的原因及解決手段有哪些？3.通過哪些方法可以保障軟件質(zhì)量？4.大型軟件與普通軟件在設(shè)計開發(fā)方法上有什么區(qū)別？5.從實際出發(fā)，談一下自己作為IT使用者，該如何培養(yǎng)風險意識？6.軟件項目開發(fā)過程中，通常遇到的可預(yù)料的風險有哪些？該如何預(yù)防？思考討論21世紀高等學校計算機類課程創(chuàng)新系列教材計算機工程倫理（微課視頻版）第七章人工智能倫理0102030421世紀高等學校計算機類課程創(chuàng)新系列教材人工智能倫理人工智能系統(tǒng)的算法偏見人工智能造假無人駕駛系統(tǒng)的法律責任05機器人的“人權(quán)”與道德PART.

01人工智能倫理7.1人工智能倫理【

引導(dǎo)案例】2018年3月，美國Uber自動駕駛汽車在亞利桑那州坦佩市撞死一名橫穿馬路的行人。當時車輛以64公里時速超速行駛，處于自動駕駛狀態(tài)，安全員卻在玩手機，車輛未剎車。這是全球首例自動駕駛汽車撞死行人的事故。責任認定復(fù)雜：安全員分心駕駛是直接原因，但自動駕駛技術(shù)在復(fù)雜路況下的可靠性、監(jiān)管漏洞以及行人的違規(guī)行為也引發(fā)討論。2016年，微軟推出聊天機器人Tay，它能通過與用戶互動學習并提供回復(fù)。然而，Tay在與偏激用戶交流后，開始發(fā)布帶有性別歧視和種族歧視的言論，僅上線一天就被緊急休眠，至今未重啟。這凸顯了人工智能在內(nèi)容審核和價值觀引導(dǎo)方面的風險。2022年，OpenAI推出ChatGPT，能通過學習人類語言進行對話，并完成撰寫郵件、文案、翻譯、代碼、論文等任務(wù)。其高效能力引發(fā)“飯碗焦慮”，許多人擔心大量工作將被人工智能取代。ChatGPT的出現(xiàn)也引發(fā)了對人工智能倫理、版權(quán)和教育公平等問題的深入思考。7.1.1人工智能的產(chǎn)生與發(fā)展三次浪潮

人工智能（AI）由約翰·麥卡錫于1955年提出，經(jīng)歷了三次浪潮。第一次浪潮是20世紀50年代末至80年代初，第二次浪潮是20世紀80年代初至20世紀末。前兩次浪潮因技術(shù)未實現(xiàn)突破，應(yīng)用效果不佳，商業(yè)化受阻，最終歸于沉寂。2006年深度學習模型的提出成為轉(zhuǎn)折點，隨著信息技術(shù)和互聯(lián)網(wǎng)的發(fā)展，人工智能迎來第三次高速成長，至今仍在持續(xù)發(fā)展。7.1.1人工智能的產(chǎn)生與發(fā)展新一代人工智能的發(fā)展的五大特征01大數(shù)據(jù)成為人工智能持續(xù)快速發(fā)展的基石新一代信息技術(shù)推動計算和數(shù)據(jù)處理能力大幅提升，機器學習算法快速演進。與早期基于推理的人工智能不同，新一代人工智能由大數(shù)據(jù)驅(qū)動，具有高度自主性。AlphaGo輸入30萬張棋譜并自我對弈后，棋力媲美頂尖棋手。智能終端和傳感器普及使海量數(shù)據(jù)累積，為人工智能發(fā)展提供強大動力。文本、圖像、語音等信息實現(xiàn)跨媒體交互計算機圖像識別、語音識別和自然語言處理技術(shù)取得明顯進步，成功應(yīng)用于無人駕駛、智能搜索等行業(yè)。互聯(lián)網(wǎng)和智能終端發(fā)展使多媒體數(shù)據(jù)爆炸式增長，實現(xiàn)跨媒體交互，推動智能化搜索和個性化推薦。未來人工智能將向人類智能靠近，實現(xiàn)多種功能。基于網(wǎng)絡(luò)的群體智能技術(shù)開始萌芽隨著互聯(lián)網(wǎng)、云計算等技術(shù)普及，大數(shù)據(jù)累積，深度學習及強化學習算法優(yōu)化，人工智能研究從單個智能體向多智能體協(xié)同的群體智能轉(zhuǎn)變。群體智能具有去中心化、自愈性強、信息共享高效等優(yōu)點，相關(guān)技術(shù)成為熱點。例如，我國2017年實現(xiàn)119架無人機集群飛行。0302自主智能系統(tǒng)成為新興發(fā)展方向04長期以來，人工智能結(jié)合仿生學研究，如機器騾、人形機器人等，但因技術(shù)與場景限制，大規(guī)模應(yīng)用未突破。如今，生產(chǎn)制造智能化升級需求凸顯，嵌入智能系統(tǒng)改造機械設(shè)備成為務(wù)實選擇，也是多國戰(zhàn)略核心，自主智能系統(tǒng)成為重要發(fā)展方向。7.1.2人工智能倫理概述1.人工智能道德算法道德算法的定義與重要性

人工智能道德算法的研究主要是指那些在道德上可接受的算法或合乎倫理的算法，他們使自主系統(tǒng)的決策具有極高的可靠性和安全性。人類的道德推理能力源于先天稟賦和后天學習。道德決策是在具體場景中展現(xiàn)的道德推理能力，可能穩(wěn)定也可能不穩(wěn)定。人工智能的道德推理能力是通過將特定群體認可的價值觀和道德標準程序化為道德代碼嵌入智能系統(tǒng)實現(xiàn)的，但這種能力不能保證其在復(fù)雜多變的場景中做出合理道德決策。智能系統(tǒng)還會通過學習算法進行道德訓練，以具備類人的道德推理能力。道德算法的挑戰(zhàn)

機器的道德學習嚴重依賴于訓練數(shù)據(jù)樣本和特征值的輸入，不穩(wěn)定的對抗樣本重復(fù)出現(xiàn)可能會導(dǎo)致智能機器被誤導(dǎo)做出錯誤的決策。而且，算法的黑箱特征使道德算法的決策邏輯，缺乏透明性和可解釋性。另外，道德學習還會受到使用者價值偏好和道德場景的影響，做出與使用者理性狀態(tài)下相反的道德判斷。從這個意義上講，人工智能既有可能學好，也有可能學壞。7.1.2人工智能倫理概述2.人工智能設(shè)計倫理0102明確價值定位

一方面，設(shè)計和研發(fā)某種人工智能產(chǎn)品及服務(wù)之前，設(shè)計者和制造商要有明確的價值定位，能夠?qū)ζ渌a(chǎn)生的能力和社會影響有總體的預(yù)判內(nèi)置糾偏機制

另一方面，人工智能在為消費者提供服務(wù)的過程中，如果出現(xiàn)價值偏差，系統(tǒng)內(nèi)置的糾偏機制能夠有效防范危害繼續(xù)發(fā)生，防止危險的發(fā)生。例如，數(shù)據(jù)挖掘技術(shù)可能將隱藏在數(shù)據(jù)中的偏見或歧視揭示出來并運用于決策中，但機器自身很難像人類一樣自覺抵制一些個人偏見或歧視，這時就需要通過技術(shù)手段和社會手段聯(lián)合消除這種偏見和歧視。7.1.2人工智能倫理概述3.人工智能社會倫理

人工智能社會倫理關(guān)注技術(shù)研發(fā)、設(shè)計與應(yīng)用的合理性邊界，以權(quán)利義務(wù)關(guān)系為核心，涵蓋道德規(guī)范、價值精神、社會條件、交往方式、結(jié)構(gòu)體制合理性等內(nèi)容。其研究焦點在于避免技術(shù)革命帶來的新差距，讓更多人受益，解決“人工智能鴻溝”問題。同時，人工智能系統(tǒng)對數(shù)據(jù)的無限需求涉及個人信息安全與隱私權(quán)問題，需更新隱私政策、知情同意條款和數(shù)據(jù)共享方式，以應(yīng)對倫理風險。

善用和阻止惡用人工智能是社會倫理研究的關(guān)鍵，落腳點在于優(yōu)化人機合作關(guān)系，建立相互適應(yīng)和信任的機制，使人工智能輔助生產(chǎn)和生活。近年來，多國發(fā)布人工智能戰(zhàn)略報告，推動產(chǎn)業(yè)發(fā)展。我國2017年發(fā)布《新一代人工智能發(fā)展規(guī)劃》，將倫理法律研究列為重點任務(wù)，提出三步走戰(zhàn)略目標：到2020年初步建立部分領(lǐng)域倫理規(guī)范和政策法規(guī)；到2025年建立初步的法律法規(guī)、倫理規(guī)范和政策體系；到2030年建成更加完善的體系。規(guī)劃指出，人工智能將深刻改變社會生活，但也可能帶來就業(yè)結(jié)構(gòu)改變、法律倫理沖擊、隱私侵犯、國際關(guān)系挑戰(zhàn)等問題，需加強前瞻預(yù)防與約束引導(dǎo)，確保其安全、可靠、可控發(fā)展。7.1.3人工智能倫理風險評估【

案例7-1】威脅用戶隱私安全

2022年，詐騙分子通過冒充執(zhí)法人員，通過“李鬼”APP獲取交通銀行6名儲戶的個人信息和人臉影像，再誘騙他們將錢存入交通銀行儲蓄卡，使用假人臉通過了銀行“人臉識別”系統(tǒng)，并竊取資金超過200萬。銀行系統(tǒng)后臺顯示，詐騙分子在進行密碼重置和大額轉(zhuǎn)賬時進行了6次人臉識別比對，均顯示“活檢成功”。

分析：人臉識別是人工智能領(lǐng)域最常見的技術(shù)之一。目前，常見的網(wǎng)絡(luò)傳輸與加密協(xié)議無法與人臉數(shù)據(jù)的安全級別與敏感程度相匹配，人臉識別應(yīng)用的數(shù)據(jù)存儲和傳輸流程均有可能被劫持，存在嚴重的安全風險。加之當前數(shù)據(jù)爬蟲、網(wǎng)絡(luò)入侵、數(shù)據(jù)泄露等已成為互聯(lián)網(wǎng)中的常態(tài)，收集人臉數(shù)據(jù)的企業(yè)完全有可能主動或被迫在未經(jīng)用戶授權(quán)或超出用戶許可的范圍下，對用戶面部數(shù)據(jù)進行采集、使用、流轉(zhuǎn)等非法操作。一旦人臉特征信息被不法分子截獲，攻破用戶自己使用的人臉識別服務(wù)并獲取用戶本人才具有的敏感權(quán)限（如金融交易、人臉門禁、手機解鎖等）可謂輕而易舉。更嚴重地，將該人臉數(shù)據(jù)結(jié)合深度合成技術(shù)，被不法分子用于偽造具有人格詆毀性質(zhì)的多媒體內(nèi)容，或捏造音頻、視頻片段，惡意侮辱、誹謗、丑化他人，勢必對受害者造成極大的人格侮辱與內(nèi)心創(chuàng)傷，并產(chǎn)生非常惡劣的社會影響。7.1.3人工智能倫理風險評估【

案例7-2】侵犯用戶生命財產(chǎn)等合法權(quán)益

2015年2月，英國首例機器人心瓣修復(fù)手術(shù)進行。原本是一場最尖端醫(yī)療AI技術(shù)的展示，沒想到卻成了一場鮮血四濺的慘案。手術(shù)期間，機器人控制臺傳輸信號聲音小而且質(zhì)量不佳，主刀醫(yī)生和助手幾乎聽不到對方聲音，兩人只能扯著嗓門大喊。手術(shù)過程中，“達芬奇”對病人心臟的縫合位置和方式都不對，導(dǎo)致醫(yī)生浪費了很長時間拆除縫線重新縫合。更為意外的是，患者主動脈竟然被機器人戳破，血噴到機器人攝像頭上。慌亂的醫(yī)生只得向場外專家求助，但兩位專家以為醫(yī)生不需要幫助，便提早離開。最后醫(yī)生不得不拋棄機器人操作，開始手動進行胸部手術(shù)修復(fù)縫合，但患者心臟功能“非常糟糕”，最后死于多器官衰竭。

分析：上述案例中，即便在醫(yī)生操作下出現(xiàn)毫厘的差錯，都會直接導(dǎo)致手術(shù)失敗與患者死亡。而此時無論是患者還是醫(yī)生都無法獲知該差錯是現(xiàn)場操縱機器人的醫(yī)生的“直接人為錯誤”，還是由機器人制造商或算法提供商造成的“間接人為錯誤”，也可能是由外部個人或組織主觀惡意的物理攻擊、遠程干擾，或者電力、數(shù)據(jù)傳輸中斷造成的意外事故，甚至醫(yī)生與供應(yīng)商、制造商都沒有出錯，只是人工智能算法黑盒特性或自主意識決策下的“機器錯誤”、患者安全無法得到切實的保障。人工智能在為眾多患者帶來福音的同時，也面臨著技術(shù)安全、責任認定等倫理風險與挑戰(zhàn)，當人工智能嚴重侵犯人類的生命權(quán)、身體權(quán)或健康權(quán)時，責任主體是難以認定的。7.1.3人工智能倫理風險評估【

案例7-3】動搖人類感知及思維能力的自主性

智能導(dǎo)航技術(shù)極大地增強了人們的路況感知能力，能夠規(guī)劃最優(yōu)路線并提供及時的路況提示，解決了許多駕駛中的難題。然而，英國uS網(wǎng)站的調(diào)查顯示，78%的駕駛員使用智能導(dǎo)航，其中超半數(shù)完全依賴導(dǎo)航提示，甚至忽視路上的限速標志。這種過度依賴不僅改變了傳統(tǒng)因紐特人對環(huán)境的感知方式，弱化了他們的天然找路能力，還可能引發(fā)安全問題，如沖出道路末端。目前，智能導(dǎo)航的設(shè)計者和制造者大多只注重產(chǎn)品的強大功能，以吸引消費者，卻沒有針對過度依賴的負面影響采取預(yù)防措施，如為人自身感知能力保留空間或在產(chǎn)品說明中做出顯要提示，這無疑是一種倫理責任的缺失。

分析：在新一代人工智能的發(fā)展中，人們越來越多地將思維決策交給偏重邏輯思維的人工智能算法來完成。這種算法雖然能按照規(guī)則進行客觀判斷，但容易忽視事物之間的有機聯(lián)系，無法像人類那樣通過直覺思維獲得整體把握和綜合判斷。因此，人工智能對人類思維能力的過度替代，可能會減少直覺思維發(fā)揮作用的機會，進而阻礙邏輯思維的提升，妨礙人類的想象力和創(chuàng)造力。由此可見，人工智能在邏輯思維方面的發(fā)展及其對人類思維能力的替代，必須重視人類直覺思維的價值。要保證人工智能技術(shù)的健康發(fā)展，避免違背“以人為本”的倫理原則，就必須控制邏輯思維與直覺思維失衡的不良后果，承擔起相應(yīng)的倫理責任。7.1.3人工智能倫理風險評估【

案例7-4】動搖勞動主體的相關(guān)權(quán)利

2022年11月30日，一款由美國OpenAI研發(fā)名為ChatGPT（全名：ChatGenerativePre-trainedTransformer）的聊天機器人程序問世，上線僅兩個月全球活躍用戶破億。該軟件能夠通過理解和學習人類的語言來進行對話，還能根據(jù)聊天的上下文進行互動，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)。谷歌面試官發(fā)現(xiàn)ChatGPT能通過年薪18萬美元工程師招聘考試；北密歇根大學教授發(fā)現(xiàn)班里最好的論文，出自ChatGPT之手；美國房產(chǎn)中介用它生成房源文案，一小時工作量，5秒完成；它參考柯南道爾筆觸，不到3分鐘完成新的福爾摩斯。ChatGPT的“卓越能力”令不少人開始陷入“飯碗焦慮”，擔心未來大量工作將會被人工智能所取代。

分析：隨著人工智能逐漸深入生產(chǎn)、生活，其優(yōu)勢令人類難以望其項背。人工智能擁有比人類更高的精確度與工作效率，不會被情感與經(jīng)歷所限，而擁有更小的出錯概率。無論是對已有數(shù)據(jù)知識的回溯檢索，還是未來案例內(nèi)容的學習更新，人工智能的速度都是人類無法企及的。同時，人工智能可能導(dǎo)致未來人類對其技術(shù)的過分依賴，而自我降低其對專業(yè)技能、知識與工作經(jīng)驗的水準要求，甚至從潛意識層面開始動搖與質(zhì)疑所學知識技能培養(yǎng)存在的合理性。另一方面，一些特殊的職業(yè)其本質(zhì)體現(xiàn)的是人格尊重與人文關(guān)懷（如醫(yī)生、教師），以及絕大多數(shù)人依賴通過勞動行為建立對社會和人際關(guān)系的認知。人工智能的滲透可能從根本上改變這一現(xiàn)狀，而其所帶來的影響仍舊值得深思。7.1.3人工智能倫理風險評估【

案例7-5】加深數(shù)字鴻溝

在疫情肆虐的特殊時期里，掃健康碼、出行碼已成為人們出入各個場合的“通行證”，有“碼”走遍天下，無“碼”寸步難行。然而，老人因沒有健康碼出行受阻、去超市買東西不讓進的事情屢有發(fā)生。2020年，哈爾濱一位滿頭白發(fā)的老人因為無法出示健康碼，被公交司機拒載，老人遲遲不肯下車，沒人跟老人解釋為什么不能乘車，而是直接遭到了滿車人的圍攻，甚至有些“為老不尊”，“自私自利”這樣激進的言語，直到民警到場接走了老人。

分析：健康碼的使用在公共衛(wèi)生安全危機之下的確是一個值得鼓勵的創(chuàng)新性公共管理策略，但該策略是默認公民都攜帶手機出行且都為技術(shù)紅利的享受者和擁護者，但現(xiàn)階段我國仍有超過5億人未接觸互聯(lián)網(wǎng)，很大一部分是老年人和殘疾人，他們享有正常社會公共服務(wù)與保障的權(quán)利正在被剝奪。技術(shù)所帶來的數(shù)字鴻溝，使他們在社會生活中邊緣化，而數(shù)字鴻溝也進一步導(dǎo)致權(quán)力分化。PART.

02人工智能系統(tǒng)的算法偏見7.2人工智能系統(tǒng)的算法偏見

在人工智能所涉及的倫理問題中，算法倫理居于基礎(chǔ)地位。在智能時代，算法已經(jīng)滲透到人們生活的每個角落，深刻地影響著我們對周遭環(huán)境的認知和理解，并漸趨成為我們生活世界底層架構(gòu)的一部分。可以說，在人工智能的廣泛應(yīng)用并引發(fā)的越來越多的社會倫理問題中，多數(shù)都是由算法所派生的。147.2.1算法與算法倫理

算法是指解題方案的準確而完整的描述，是一系列解決問題的清晰指令，算法代表著用系統(tǒng)的方法描述解決問題的策略機制。

安德森在《依賴代碼：算法時代的利與弊》提出，算法的確能幫助我們處理大量數(shù)據(jù)，這將會帶來諸多可見的與不可見的益處，如激發(fā)科學突破、提升人們的創(chuàng)造力和自我表達能力、創(chuàng)造新的便捷生活方式等；但在同時，算法的這些益處也伴隨著諸多挑戰(zhàn)，如過于追求數(shù)據(jù)和建模，就會產(chǎn)生削弱人類判斷、形成算法偏見、加深社會分歧等各種不良后果。

因此，從算法倫理的層面對算法的使用進行規(guī)制極為重要。算法倫理是以算法后果的不可預(yù)測性和算法的價值負荷為其理論前提，以尊重性、安全性、預(yù)防性、透明性和友好性為其基本準則，以培養(yǎng)算法設(shè)計主體的道德想象力和遵循價值敏感性為其實現(xiàn)之路。

在一些領(lǐng)域，算法的性能表現(xiàn)和解決任務(wù)的能力堪與人類媲美，在某些方面甚至要優(yōu)于人類的分析和決策。隨著算法廣泛地嵌入人們的日常生活，對其可靠性要求越來越高，衡量標準既體現(xiàn)在算法技術(shù)的進步，也反映在算法在道德上的可接受性。這種價值導(dǎo)向使研究者的關(guān)注點主要聚焦于以下兩類算法:一是人類很難預(yù)測其行為后果的算法;二是造成的事實背后的決策邏輯難以解釋的算法。它們將不確定性和不透明性引入計算過程，進而將其延伸到社會生活領(lǐng)域，無形地增加了倫理風險。這兩類算法給倫理學帶來全新的挑戰(zhàn)，而且由于算法所引起的倫理問題與其他技術(shù)引起的倫理問題有明顯不同，因此具有更大的討論價值。7.2.2算法偏見的主要表現(xiàn)和特點種族歧視

有形的種族歧視容易精準打擊，無形的種族歧視卻難以防范。被嵌入種族歧視代碼的算法中隱藏的偏見在人工智能客觀、公正、科學的正面包裝下更容易大行其道，令人放松警惕，并在算法“黑箱”的遮掩下更加隱蔽。【

案例7-6】

美國部分州使用了一款名為Compas的算法來評估犯罪，選用該算法的目的是考慮到計算機在判斷嫌疑人風險等問題上不會考慮黑白種族等主觀性很強的問題。然而，美國一調(diào)查機構(gòu)發(fā)現(xiàn)該算法存在明顯的偏見，根據(jù)分析，該系統(tǒng)預(yù)測的黑人被告再次犯罪的風險要遠遠高于白人，甚至達到了后者的兩倍。【

案例7-7】2019年，美國國家標準與技術(shù)研究院發(fā)布了一份報告，顯示了全球99名開發(fā)人員提交的189種人臉識別算法在識別來自不同人口統(tǒng)計數(shù)據(jù)中的面孔時的表現(xiàn)。測試顯示，與白人相比，無法準確識別非洲裔或亞裔人臉照片的可能性高出10至100倍。在搜索數(shù)據(jù)庫以查找給定的面孔時，非洲裔女性顯示錯誤的比例明顯高于其他人口。7.2.2算法偏見的主要表現(xiàn)和特點性別歧視

大數(shù)據(jù)是社會的產(chǎn)物，人類不自覺的性別歧視會影響對大數(shù)據(jù)進行分析的人工智能算法，可能無意中強化了就業(yè)招聘、大學錄取等領(lǐng)域中的性別歧視。【

案例7-8】

美國一對夫婦結(jié)婚多年，所居住的地區(qū)實行共同財產(chǎn)制，他們提交了聯(lián)合納稅申報表，盡管妻子的信用評分更高，但蘋果公司計算出丈夫的信用額度是他妻子的20倍。2019年，丈夫在推特上曝光了Applecard的性別歧視行為。為此，美國國會開始審查金融機構(gòu)在決定信貸額度時使用的算法。【

案例7-9】

卡內(nèi)基梅隆大學在針對Google廣告的研究中發(fā)現(xiàn)，Google的在線廣告系統(tǒng)推送給男性的高收入職位廣告要比顯示給女性的多。在調(diào)查研究中，有一則高薪職位招聘廣告向男性用戶投放了1816次，但投放給女性用戶只有311次。在500名模擬男性用戶中，402名至少收到了一次高薪職位招聘廣告，但只有60名女性用戶至少收到了一次相同的廣告。Google廣告的個性化推送算法對女性的歧視，影響了女性獲取優(yōu)質(zhì)工作的機會。7.2.2算法偏見的主要表現(xiàn)和特點年齡歧視

在就業(yè)招聘、員工管理中，就業(yè)者的姓名、性格、興趣、情感、年齡乃至膚色等數(shù)據(jù)，往往悉數(shù)被采集，運用大數(shù)據(jù)算法非常方便對年齡等數(shù)據(jù)進行篩選與評估。比如，對于尋求新工作的不同年齡段的人來說，他或她的日常工作可能包括搜索互聯(lián)網(wǎng)工作網(wǎng)站和提交在線申請。從表面上看，這似乎是一個非常透明和客觀的過程，將所有申請人置于一個只有經(jīng)驗和資格的公平競爭環(huán)境中，但實際上年齡歧視無處不在。【

案例7-10】

2016年，ACCESS-WIRE的ResumeterPro項目組發(fā)現(xiàn)，在人工有機會審查之前，高達72%的簡歷會被申請人跟蹤系統(tǒng)拒絕。這是通過復(fù)雜的算法來完成的，可能會導(dǎo)致基于不準確假設(shè)的無意識歧視，雇主則可以使用這些算法根據(jù)年齡專門丟棄申請。【

案例7-11】2016年，非營利機構(gòu)ProPublica發(fā)現(xiàn)，F(xiàn)acebook通過精準廣告投放，將大齡勞動者排除在廣告覆蓋范圍之外，侵犯了大齡勞動者的權(quán)益。令人不安的是，上述這些公然的歧視很難被發(fā)現(xiàn)，因為被歧視者很難證明拒絕是由于年齡原因造成的。7.2.2算法偏見的主要表現(xiàn)和特點消費歧視

消費歧視常見的形式有：一、對新老用戶制定不同的價格，會員用戶價格反而比普通用戶價格貴；二、對于不同地區(qū)的消費者制定不同價格；三、多次瀏覽頁面的用戶可能面臨價格上漲；四、利用頻繁促銷規(guī)則和算法實現(xiàn)價格混淆設(shè)置，吸引計算真實價格困難的消費者。在某些細分市場，商家在公開透明的原則下進行差別定價是一種正常的商業(yè)策略。但是，如果商家針對某個具體的個人或特定群體實行歧視性定價，就會造成選擇性目標傷害。

有網(wǎng)友反映，自己經(jīng)常通過某旅行網(wǎng)站訂一家出差常住的酒店，常年價格在380~400元。某日，網(wǎng)友發(fā)現(xiàn)自己的賬號查到酒店價格是380元，但朋友的賬號查詢顯示僅為300元。

還有很多網(wǎng)友反映，有的網(wǎng)絡(luò)平臺會根據(jù)手機型號給出不同的收費待遇。其實早在2000年，亞馬遜網(wǎng)站就已經(jīng)進行了價格實驗。當時通過算法對一些DVD制定實施歧視定價策略，例如對Titus碟片進行歧視定價，對新用戶收取22美元，對老用戶收取26美元，這一項目被消費者發(fā)現(xiàn)之后就立刻終止了，但實際上新的價格歧視方式層出不窮。7.2.3算法偏見產(chǎn)生的原因01020304算法自主性產(chǎn)生偏見

機器學習算法通過自我編寫代碼，依賴大數(shù)據(jù)訓練提升決策能力，但這種自主性也帶來了不確定性和不透明性，增加了解釋和預(yù)測的困難。樣本和訓練數(shù)據(jù)的偏見

算法輸出受訓練數(shù)據(jù)集質(zhì)量影響，數(shù)據(jù)中的偏見會傳遞給算法，導(dǎo)致不公平的結(jié)果，尤其在少數(shù)群體數(shù)據(jù)不足時更為明顯。算法設(shè)計者的偏見

算法設(shè)計過程中，設(shè)計者的主觀意識和價值取向可能無意中被引入，造成算法反映特定社會價值觀，從而產(chǎn)生歧視。算法研發(fā)公司及購買企業(yè)的利益訴求

算法研發(fā)和應(yīng)用中，企業(yè)追求利潤可能凌駕于社會責任之上，隱藏算法細節(jié)以掩蓋潛在的歧視問題，加劇了算法偏見。7.2.3算法偏見產(chǎn)生的原因【

案例7-12】算法自主性產(chǎn)生偏見

2015年，黑人兄弟JackyAlciné震驚地發(fā)現(xiàn)，他們被谷歌圖像識別算法歧視了：GooglePhotos竟然把他的黑人朋友分類成了“大猩猩”，這位黑人兄弟立馬向谷歌發(fā)起了抗議。谷歌對此深表歉意，并立刻著手處理這一漏洞。但他們的工程師驚奇地發(fā)現(xiàn)，無論怎么修改編程，都無法解決AI智能區(qū)分黑人和黑猩猩照片的技術(shù)難題。無奈之下，谷歌只好把“gorilla”從系統(tǒng)標簽詞典中刪除了，這就意味著谷歌的圖像識別算法中徹底抹去了黑猩猩這個物種。這樣，AI就不會把黑人識別成黑猩猩了。不過，大猩猩也不會被認作大猩猩了。因為GooglePhotos的圖像識別算法，根本就不知道有大猩猩這個物種存在。【

案例7-13】樣本和訓練數(shù)據(jù)的偏見

2016

年，微軟在推特平臺推出一個名為Tay

的聊天機器人。用戶只需在推特上@TayandYou就能得到Tay的回復(fù)。用戶在@了TayandYou后，Tay就會追蹤該用戶的網(wǎng)名、性別、喜歡的食物、郵編、感情狀況等個人信息。除了聊天，Tay還可以說笑話，講故事等，用戶還可以分享一張照片來得到Tay的點評。Tay會在與人們的交流中不斷學習，隨著時間積累，她的理解能力將逐步提升，變得愈發(fā)“智能”。

然而，在與有偏激言論的人互動后，發(fā)布僅僅一天的Tay開始發(fā)布帶有明顯性別歧視和種族歧視傾向的言論，微軟只能緊急將Tay休眠，至今未曾重啟。

這個例子有力地佐證了在機器學習過程中會產(chǎn)生新的偏見的觀點，與原定目標，即靠實踐經(jīng)驗吸收優(yōu)勢予以補充模型的想法相去甚遠。算法不能決定用戶輸入數(shù)據(jù)的性質(zhì)或特點，只能被動對輸入的各類數(shù)據(jù)進行學習，換句話說，若輸入數(shù)據(jù)的互動者向算法輸入了具有偏見的新數(shù)據(jù)，那學習之后的算法就是一個偏見算法。7.2.3算法偏見產(chǎn)生的原因【

案例7-14】算法設(shè)計者的偏見

2020年12月，斯坦福大學醫(yī)學中心的數(shù)十名住院醫(yī)師和其他醫(yī)務(wù)人員對院方提出了抗議，他們作為一線員工，卻在篩選過程中遭到淘汰，無緣第一批新冠肺炎疫苗的接種。醫(yī)院的管理者把責任推到了醫(yī)院開發(fā)的算法上，認為正是這些算法決定了員工的接種順序。然而專家對該算法進行詳細分析后卻發(fā)現(xiàn)，真正的錯誤源自設(shè)計算法的人，他們并沒有根據(jù)員工在病毒環(huán)境中的暴露程度來決定接種順序，而是簡單地按照年齡排序。【

案例7-15】算法研發(fā)公司及購買企業(yè)的利益訴求

2016年的美國總統(tǒng)大選中，F(xiàn)acebook的排名算法瘋狂推薦假新聞。美國新聞聚合網(wǎng)站BuzzFeed的調(diào)查發(fā)現(xiàn)，在美國大選的幾個關(guān)鍵月份，來自惡作劇網(wǎng)站和超黨派博客的20個表現(xiàn)最佳的虛假選舉故事在Facebook上產(chǎn)生了數(shù)萬次分享與評論，F(xiàn)acebook獲得不菲的收益。【

案例7-16】算法研發(fā)公司及購買企業(yè)的利益訴求

2011年，美國亞馬遜網(wǎng)站上一本名為“TheMakingofaFly”的書，其標價竟然為170萬美元。其后一個星期，定價不斷飆升，最終創(chuàng)下了2369萬美元的天價。原因是賣家使用算法定價，他的算法緊盯他的同行，同行漲價，他也漲價。巧合的是，另外一個同行也用算法緊盯他的定價。結(jié)果雙方算法陷入了循環(huán)加價模式，相互不斷推高對方定價，最后攀升至天價。7.2.4算法偏見產(chǎn)生的后果

隨著人工智能技術(shù)逐步廣泛地應(yīng)用在社會的各個領(lǐng)域，大家在稱道人工智能給人們?nèi)粘Ｉ罟ぷ鲙泶罅勘憷Ⅲ@嘆于人工智能技術(shù)的巨大威力的同時，人工智能算法目前本身的偏見帶來的負面效應(yīng)也逐漸被越來越多的人認識到。

算法歧視的反饋循環(huán)形成越來越嚴重的固化偏見。如果用過去不準確甚至有偏見的數(shù)據(jù)訓練算法，其輸出結(jié)果自然而然也是有偏見的；然后再以其輸出產(chǎn)生的數(shù)據(jù)對系統(tǒng)進行反饋，則會是使算法偏見得到鞏固，后果將非常嚴重。算法歧視固化到算法之中，演化成算法的內(nèi)在運行機制，算法在不斷固化和加深社會原本存在的歧視，并且歧視在算法黑箱中持續(xù)、規(guī)模化、隱蔽地產(chǎn)生作用，固化和限制受眾的思想，甚至形成極端的社會分裂。

算法歧視會造成社會資源分配的馬太效應(yīng)進一步放大。算法對某一人群的集體歧視和偏見，無疑會加深這一群體在社會生活中的不平等待遇。同時，算法也在分化社會、固化階層、加劇社會不平等。當算法應(yīng)用于社會福利等資格審查監(jiān)測中，算法測量和建構(gòu)出的公民畫像是被圈定在原社會條件和位置上的，底層公民、劣勢群體、少數(shù)群族擁有的通往更多機會和資源的途徑和概率越來越小。最終，算法偏見將導(dǎo)致社會資源分配的馬太效應(yīng)進一步放大。PART.

03人工智能造假人工智能造假最早引起關(guān)注的是2017年年底，一位名為deepfakes的用戶在美國Reddit網(wǎng)站上發(fā)布了多個人工智能造假的色情視頻，視頻中演員的面部被替換成明星人物的臉。從此，媒體和大眾開始使用deepfake一詞代替基于人工智能技術(shù)的造假行為，即“深度偽造”。隨著人工智能造假內(nèi)容的傳播，其背后的人工智能技術(shù)開始引起了廣泛的關(guān)注和探索。“深度偽造”是一種基于深度學習的內(nèi)容合成技術(shù)，主要是利用生成對抗網(wǎng)絡(luò)的深度學習算法，實現(xiàn)初始內(nèi)容和目標內(nèi)容的模擬、合成和替換，“深度偽造”可以創(chuàng)建全新的內(nèi)容或操縱現(xiàn)有的內(nèi)容，包括視頻、圖像、音頻和文本。該技術(shù)具有廣泛的應(yīng)用場景，被大量用于語音導(dǎo)航、新聞傳播、智能客服、社交媒體等領(lǐng)域。7.3.1人工智能造假的兩面性娛樂與文化領(lǐng)域在影視制作中，利用“深度偽造”技術(shù)可以修復(fù)老電影的畫面和聲音，讓經(jīng)典作品煥發(fā)新生，如修復(fù)《羅馬假日》等老電影，讓觀眾重溫經(jīng)典。通過“深度偽造”技術(shù)，可以創(chuàng)造虛擬偶像，舉辦線上演唱會，為粉絲帶來全新的娛樂體驗，如洛天依等虛擬偶像的演唱會吸引了大量觀眾。商業(yè)與教育領(lǐng)域在商業(yè)廣告中，利用“深度偽造”技術(shù)可以模擬產(chǎn)品使用場景，讓消費者更直觀地了解產(chǎn)品特點，如化妝品廣告中模擬使用后的效果。在教育領(lǐng)域，“深度偽造”技術(shù)可以“復(fù)活”歷史人物，讓歷史教學更加生動有趣，如通過虛擬孔子講解儒家思想，增強學生的學習興趣。社會服務(wù)領(lǐng)域在醫(yī)療領(lǐng)域，“深度偽造”技術(shù)可用于合成醫(yī)療影像數(shù)據(jù)，輔助醫(yī)生進行疾病診斷，提高診斷準確率，如合成肺癌檢測影像幫助醫(yī)生發(fā)現(xiàn)早期病變。在刑偵領(lǐng)域，“深度偽造”技術(shù)可以輔助生成犯罪嫌疑人的模擬畫像，幫助警方縮小偵查范圍，提高破案效率，如根據(jù)目擊者描述生成嫌疑人圖像。人工智能造假的積極應(yīng)用利用“深度偽造”技術(shù)制作虛假視頻或音頻，可能會侵犯個人隱私，如將某人的臉替換到色情視頻中，給當事人帶來極大的名譽損害。通過“深度偽造”技術(shù)篡改個人言論，可能會誤導(dǎo)公眾，影響個人的聲譽和形象，如偽造名人演講視頻傳播錯誤觀點。個人隱私與名譽受損01在政治領(lǐng)域，“深度偽造”技術(shù)被用于制造虛假政治言論或事件，可能引發(fā)社會動蕩，如偽造政客的不當言論引發(fā)民眾不滿。在新聞傳播領(lǐng)域，“深度偽造”技術(shù)可能導(dǎo)致虛假新聞泛濫，削弱公眾對媒體的信任，如偽造新聞事件誤導(dǎo)公眾輿論。社會信任危機02“深度偽造”技術(shù)可用于制造虛假信息，干擾國際關(guān)系，如偽造國家領(lǐng)導(dǎo)人言論引發(fā)國際爭端。利用“深度偽造”技術(shù)進行網(wǎng)絡(luò)詐騙等犯罪活動，可能對國家金融安全造成威脅，如偽造銀行高管聲音進行詐騙。國家安全威脅03

人工智能造假的負面應(yīng)用人臉深度偽造語音深度偽造文本偽造7.3.2人工智能造假的主要類型010203通過深度學習算法，將視頻中人物的面部替換成另一個人的面部，如“ZAO”APP中的換臉功能，用戶可以將自己的臉替換到明星視頻中。人臉替換技術(shù)可用于影視制作中的替身演員效果，但同時也可能被用于惡意制作虛假視頻，侵犯他人肖像權(quán)。人臉替換利用Face2Face等技術(shù)，可以實時操縱人物的面部表情，如讓照片中的人物做出各種表情動作，用于娛樂或特效制作。表情操縱技術(shù)可能被黑客利用，破解銀行系統(tǒng)的人臉核驗系統(tǒng)，通過操縱表情完成指令性動作，從而實施詐騙。表情操縱使用StyleGAN等技術(shù)，可以生成完全不存在的人臉圖像，如GeneratedPhotos網(wǎng)站提供大量全臉合成的人臉照片，用于各種虛擬場景。全臉合成技術(shù)可用于虛擬人物的創(chuàng)建，但也可能被用于制造虛假身份信息，用于非法活動。全臉合成人臉深度偽造01語音合成通過語音合成技術(shù)，可以生成目標說話人的聲音，如美國Modulate公司開發(fā)的產(chǎn)品可以將用戶聲音變換成奧巴馬等名人的聲音，用于娛樂或模仿。語音合成技術(shù)可用于語音導(dǎo)航、智能客服等領(lǐng)域，但同時也可能被用于詐騙，如偽造公司高管聲音進行電話詐騙。03對抗攻擊通過對抗攻擊技術(shù)，可以生成能夠欺騙自動說話人驗證系統(tǒng)的語音，如對語音識別系統(tǒng)進行攻擊，使其誤判說話人身份。對抗攻擊技術(shù)可能被用于攻擊金融系統(tǒng)、安全系統(tǒng)等，造成嚴重的安全隱患。02語音轉(zhuǎn)換利用語音轉(zhuǎn)換技術(shù)，可以將一種聲音轉(zhuǎn)換成另一種聲音的屬性，如將男性聲音轉(zhuǎn)換成女性聲音，用于影視配音或語音特效。語音轉(zhuǎn)換技術(shù)可能被用于制造虛假語音證據(jù)，干擾司法調(diào)查或誤導(dǎo)公眾。語音深度偽造2020年初，阿聯(lián)酋的一位銀行經(jīng)理接到了一家大公司董事打來的電話。該董事聲稱其所在的公司正在進行一項大型收購，所以需要這家銀行授權(quán)向美國的幾個賬戶轉(zhuǎn)賬3500萬美元，并表示已經(jīng)發(fā)送一封來自律師的電子郵件來確認這筆轉(zhuǎn)賬。該銀行經(jīng)理能夠分辨出這位董事的聲音，因為他們之前交談過，并且在收件箱中看到了來自董事和律師的電子郵件，他認為一切程序看起來都是合法的，于是確認了這筆轉(zhuǎn)賬。然而這位大公司的“董事”的聲音實際上是詐騙團伙利用一種名為“深度偽裝”的人工智能技術(shù)合成的，聽起來很像本人的聲音。這并不是語音深度偽裝技術(shù)第一次被用于網(wǎng)絡(luò)詐騙犯罪。無獨有偶，2019年3月，一家總部位于德國的英國能源公司的管理者也曾被Deepfake技術(shù)所騙，損失了約25萬美元。詐騙團伙利用深度偽裝技術(shù)生成了德國母公司CEO的聲音，并命令英國分公司的經(jīng)理緊急匯款。【案例7-17】案例社交媒體評論利用自然語言模型生成社交媒體上的評論，如ChatGPT可以生成各種觀點的評論，用于引導(dǎo)輿論或制造話題。社交媒體評論偽造可能導(dǎo)致虛假信息傳播，影響公眾對事件的看法和判斷。新聞與文章通過文本偽造技術(shù)生成新聞或文章，如偽造新聞報道或?qū)W術(shù)論文，用于誤導(dǎo)公眾或獲取不當利益。文本偽造技術(shù)可能對新聞媒體的公信力造成嚴重損害，影響社會的正常秩序。廣告與營銷利用文本偽造技術(shù)生成廣告文案，如偽造產(chǎn)品宣傳文案，夸大產(chǎn)品功效，誤導(dǎo)消費者。廣告與營銷中的文本偽造可能導(dǎo)致消費者權(quán)益受損，影響市場公平競爭。文本偽造2023年2月，一則“浙江省杭州市政府3月1號取消機動車依尾號限行”的“新聞”在網(wǎng)上傳開了，這條看起來沒頭沒尾的“新聞”一時間還真讓不少人信以為真。原來這是杭州某小區(qū)業(yè)主群里討論最近非常熱門的AI聊天機器人ChatGPT時，一位業(yè)主開玩笑說自己要用ChatGPT來寫一條關(guān)于杭州取消限行的新聞稿，隨后將ChatGPT生成的文章發(fā)布到了群里。結(jié)果被群內(nèi)不明真相的其他業(yè)主截圖轉(zhuǎn)發(fā)了，因此在網(wǎng)上流傳開來引發(fā)誤會。案例【案例7-18】我國監(jiān)管政策國際監(jiān)管政策7.3.3針對人工智能造假的監(jiān)管政策美國監(jiān)管政策美國聯(lián)邦層面雖無專門立法，但參眾兩院提出多部法案，如《深度偽造責任法案》，強調(diào)市場主體預(yù)防和平臺自我規(guī)制，形成自下而上的治理模式。美國各州積極立法，如加利福尼亞州通過法律禁止在選舉期間使用“深度偽造”技術(shù)制造虛假政治廣告，保護選民的知情權(quán)。歐盟監(jiān)管政策歐盟尚未專門立法，但通過《一般數(shù)據(jù)保護條例》等法律，對深度偽造技術(shù)涉及的個人生物識別信息進行嚴格限制，保護個人隱私。歐盟提出《可信賴人工智能倫理指引》，從數(shù)據(jù)管理、算法開發(fā)到商業(yè)運用，對深度偽造技術(shù)的使用提出嚴格要求，規(guī)范技術(shù)發(fā)展。其他國家監(jiān)管政策德國、新加坡、英國、韓國等國家將“深度合成”相關(guān)犯罪納入刑法范疇，通過刑事手段打擊惡意使用深度偽造技術(shù)的行為。各國通過國際合作，共同應(yīng)對深度偽造技術(shù)帶來的跨國犯罪問題，如建立信息共享機制和聯(lián)合調(diào)查機制，提高打擊犯罪的效率。國際監(jiān)管政策我國《民法典》為深度偽造技術(shù)劃定紅線，保護公民的肖像權(quán)、名譽權(quán)等合法權(quán)益，明確禁止非法使用深度偽造技術(shù)侵犯他人權(quán)利。《刑法》中對利用深度偽造技術(shù)進行詐騙、誹謗等犯罪行為進行嚴厲打擊，維護社會秩序和公民權(quán)益。法律層面我國積極推動深度偽造檢測技術(shù)研發(fā)，提高對虛假內(nèi)容的識別能力，如建立深度偽造檢測平臺，為監(jiān)管部門和平臺提供技術(shù)支持。加強對人工智能算法的監(jiān)管，要求算法開發(fā)和應(yīng)用符合倫理和法律要求，防止算法偏見和濫用，確保技術(shù)的健康發(fā)展。技術(shù)監(jiān)管層面國家互聯(lián)網(wǎng)信息辦等部門制定《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等規(guī)范性文件，要求平臺對深度偽造內(nèi)容進行標識和管理。2022年發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確了深度合成服務(wù)提供者和使用者的義務(wù)和責任，如取得被編輯個人的同意、不得制作虛假新聞等，為技術(shù)應(yīng)用提供了合法邊界。規(guī)章層面我國監(jiān)管政策PART.04無人駕駛系統(tǒng)的法律責任無人駕駛系統(tǒng)可追溯至20世紀20、30年代，美國軍方為了盡可能減少戰(zhàn)區(qū)路邊炸彈等襲擊導(dǎo)致的軍人傷亡，率先提出軍用車輛“無人駕駛”這一概念。此后，DARPA持續(xù)投入資金資助相關(guān)研究但始終發(fā)展緩慢，無人駕駛行業(yè)也并未受到廣泛關(guān)注。1987年，梅賽德斯-奔馳公司與德國慕尼黑聯(lián)邦國防大學共同推行尤里卡普羅米修斯計劃，開啟了大型公司與研究機構(gòu)合作研發(fā)制造可運作的無人駕駛汽車原型。1999年，美國卡內(nèi)基梅隆大學研制的無人駕駛汽車完成了第一次無人駕駛試驗。2013年，美國第一臺民用無人機被批準上路測試，后續(xù)特斯拉汽車也率先推出特定環(huán)境下的無人駕駛汽車，無人駕駛技術(shù)開始受到關(guān)注，并越來越趨向?qū)嵱没⑸虡I(yè)化。2020年10月，百度Apollo無人駕駛出租車在北京海淀、亦莊等區(qū)域向用戶全面開放無人駕駛出行業(yè)務(wù)。無人駕駛作為人工智能應(yīng)用中備受關(guān)注的熱點，現(xiàn)階段的發(fā)展更是如火如荼，很多國家開放道路測試，為無人駕駛汽車開放道路實驗的法律法規(guī)也相繼出臺。然而，無人駕駛系統(tǒng)一方面高歌猛進，逐步開放應(yīng)用；另一方面也沖擊著現(xiàn)有的法律秩序，對創(chuàng)新監(jiān)管制度提出迫切的實際需求。因此，只有精準認清無人駕駛系統(tǒng)的概念、特征和風險，才能為其未來立法打好基礎(chǔ)。7.4無人駕駛系統(tǒng)的法律責任技術(shù)定義無人駕駛系統(tǒng)通過激光雷達、車載攝像機等技術(shù)收集信息，由智能系統(tǒng)代替人類完成駕駛?cè)蝿?wù)，實現(xiàn)自主行駛，如百度Apollo無人駕駛出租車在北京的運營。無人駕駛系統(tǒng)的發(fā)展目標是完全替代人類駕駛員，但目前仍處于逐步發(fā)展階段，現(xiàn)有技術(shù)主要應(yīng)用于特定場景和輔助駕駛功能。智能化分級無人駕駛汽車根據(jù)自動化程度分為L0到L5六個等級，從完全人工駕駛到完全自動駕駛，如L3級別可在特定模式下自主操控車輛，但駕駛員需隨時準備接管。不同等級的無人駕駛汽車在功能和責任認定上存在差異，L4和L5級別的高度自動化和完全自動駕駛車輛對現(xiàn)行法律制度帶來更大挑戰(zhàn)。概念內(nèi)涵爭議對無人駕駛系統(tǒng)的概念內(nèi)涵存在理解偏差，如美國交通部和高速公路安全管理局對無人駕駛汽車的定義不同，前者強調(diào)智能系統(tǒng)操控，后者強調(diào)無需人類直接參與安全控制功能。我國將無人駕駛汽車稱為智能網(wǎng)聯(lián)汽車，其概念和規(guī)范也在不斷發(fā)展和完善，如2018年發(fā)布的《智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范》明確了相關(guān)定義和管理要求。7.4.1無人駕駛系統(tǒng)概念運行自主性無人駕駛系統(tǒng)在行駛和選擇路線上具有自主性，通過車聯(lián)網(wǎng)收集數(shù)據(jù)，依靠算法自主決策，如根據(jù)實時路況規(guī)劃最佳路線，實現(xiàn)回避、變速等操作。無人駕駛系統(tǒng)具備自主學習能力，通過收集使用過程中的信息進行學習，如通過CNN學習圖像處理方式，但這也導(dǎo)致其決策的不可預(yù)測性，增加事故責任認定的難度。數(shù)據(jù)依賴性無人駕駛系統(tǒng)依賴大量數(shù)據(jù)實現(xiàn)安全運行和自主決策，如通過地圖數(shù)據(jù)規(guī)劃路線、傳感器數(shù)據(jù)感知環(huán)境、圖像數(shù)據(jù)識別障礙物，數(shù)據(jù)的準確性和安全性至關(guān)重要。數(shù)據(jù)依賴性帶來風險，黑客攻擊可能導(dǎo)致數(shù)據(jù)系統(tǒng)紊亂，如入侵車輛GPS、攝像頭等傳感器，影響車輛對環(huán)境的判斷和行駛安全，因此需要加強數(shù)據(jù)保護技術(shù)。操控主體不確定性與傳統(tǒng)機動車不同，無人駕駛汽車的駕駛主體可能包括車內(nèi)駕駛?cè)恕⒅悄芟到y(tǒng)、數(shù)據(jù)提供者等，隨著技術(shù)發(fā)展，老人、兒童等也可能參與駕駛，責任主體難以確定。現(xiàn)行《道路交通安全法》難以適應(yīng)無人駕駛汽車的責任認定，如車輛使用人或所有人可能不參與車輛運行，將其作為責任主體缺乏合法性，需要重新審視和調(diào)整法律制度。7.4.2無人駕駛系統(tǒng)的特點無人駕駛汽車的高度自主性使傳統(tǒng)侵權(quán)責任認定標準受到?jīng)_擊，如車輛處于高度自動化模式時發(fā)生事故，難以確定責任主體是車輛、駕駛?cè)诉€是其他相關(guān)方。對于無人駕駛汽車是否具有獨立法律人格存在爭議，肯定說認為其可作為責任主體，否定說則認為其不具備法律人格，折中說提出賦予其“電子人格”或“準法律人格”，但目前尚無定論。侵權(quán)主體認定障礙駕駛模式的復(fù)雜性使因果關(guān)系難以認定，如自動化等級不同導(dǎo)致駕駛?cè)俗⒁饬x務(wù)和責任承擔不同，但具體等級認定困難，如特斯拉事故中生產(chǎn)商與駕駛?cè)素熑蝿澐执嬖跔幾h。無人駕駛汽車的自主學習能力切斷了產(chǎn)品質(zhì)量缺陷與生產(chǎn)者之間的因果關(guān)系，其在出廠后可能脫離原有算法設(shè)定，導(dǎo)致事故原因難以歸咎于生產(chǎn)者。因果關(guān)系劃分模糊無人駕駛汽車的自主性和學習能力使其難以適用傳統(tǒng)的駕駛?cè)诉^錯歸責體系和產(chǎn)品責任歸責原則，如無法證明事故車輛在出廠時存在產(chǎn)品缺陷，且受害者舉證困難。無人駕駛汽車的多主體特性使責任分配復(fù)雜，不同主體適用不同的歸責原則，需要多方考證才能確定最終責任主體，增加了法律適用的難度。歸責原則使用困難7.4.2無人駕駛系統(tǒng)對現(xiàn)行法律制度的挑戰(zhàn)我國尚未制定專門法律規(guī)則對無人駕駛系統(tǒng)安全風險進行規(guī)制，相關(guān)立法層級低，缺乏可操作性的法律規(guī)范，如侵權(quán)責任法、道路交通法等尚未對無人駕駛問題做出明確回應(yīng)。立法規(guī)則的缺失使監(jiān)管層對無人駕駛汽車的態(tài)度保守，限制了其開發(fā)進程，如無人駕駛汽車的測試和應(yīng)用受到嚴格限制，影響技術(shù)的發(fā)展和推廣。立法規(guī)則缺失無人駕駛汽車記錄乘客的乘車時間、地點、軌跡等信息，若信息泄露或被惡意利用，將侵犯乘客隱私，如共享交通模式下大量乘客信息的收集和存儲存在風險。我國現(xiàn)行法律對個人信息保護雖有規(guī)定，但難以涵蓋無人駕駛汽車的特殊信息類型，需要進一步明確相關(guān)主體的權(quán)利和義務(wù)，加強信息保護措施。用戶信息保護風險無人駕駛汽車的網(wǎng)聯(lián)化屬性使其面臨網(wǎng)絡(luò)安全風險，如黑客攻擊可能導(dǎo)致車輛失控，影響行駛安全，如特斯拉、克萊斯勒等公司生產(chǎn)的無人駕駛汽車曾遭受黑客攻擊。道路基礎(chǔ)設(shè)施故障也是網(wǎng)絡(luò)安全風險來源之一，極端天氣或糟糕路況可能導(dǎo)致信息收集和分析失誤，增加駕駛危險，如傳感器在惡劣環(huán)境下無法準確工作。網(wǎng)絡(luò)安全風險7.4.3無人駕駛系統(tǒng)的監(jiān)管缺失宏觀政策引導(dǎo)我國從戰(zhàn)略層面對無人駕駛汽車發(fā)展進行引導(dǎo)和規(guī)劃，如《中國制造2025》提出智能網(wǎng)聯(lián)汽車發(fā)展方向，《智能汽車創(chuàng)新發(fā)展戰(zhàn)略》明確產(chǎn)業(yè)目標和技術(shù)路徑。現(xiàn)有規(guī)范性文件主要關(guān)注道路測試和產(chǎn)業(yè)標準，但難以有效規(guī)制無人駕駛帶來的安全風險，如缺乏對侵權(quán)責任和網(wǎng)絡(luò)安全風險的專門規(guī)定。國外立法借鑒美國制定《無人駕駛汽車法案》，側(cè)重行政層面完善立法，規(guī)范無人駕駛汽車的測試、準入和使用等環(huán)節(jié)，為技術(shù)發(fā)展提供法律框架。德國修訂《德國道路交通法》，立法嚴謹，內(nèi)容詳細，對無人駕駛汽車的駕駛規(guī)則、責任分配等做出明確規(guī)定，具有重要實踐價值。我國未來立法方向我國應(yīng)結(jié)合實際情況，參考國外經(jīng)驗，為無人駕駛系統(tǒng)專門立法，明確技術(shù)標準、責任主體、侵權(quán)責任、網(wǎng)絡(luò)安全和信息保護等內(nèi)容。未來立法需構(gòu)建從無人駕駛汽車生產(chǎn)、準入、銷售、檢驗到召回的全生命周期管理規(guī)定，配合《道路交通安全法》等法律法規(guī)的修訂完善，促進無人駕駛技術(shù)的健康發(fā)展。7.4.4無人駕駛系統(tǒng)的監(jiān)管政策PART.05機器人的“人權(quán)”與道德當AlphaGo打敗人類最頂尖的圍棋手柯潔的時候，棋圣聶衛(wèi)平點評說：“AlphaGo可以說是20段，人類要打贏AlphaGo的唯一希望就是拔掉電源。”聶衛(wèi)平的這一點評為我們提出了一個至關(guān)重要的哲學乃至法學問題，即機器人是否享有不被隨意剝奪其“生命”的“人權(quán)”？這一問題的回答并非易事，我們從索菲婭獲得公民資格時民眾的迥異反應(yīng)便可窺豹一斑。2017年10月，沙特阿拉伯授予機器人索菲婭公民身份，這一時間成為世界各地的新聞。有人怒不可遏，認為索菲婭享有的權(quán)利甚至超過了該國婦女享有的權(quán)利。有人嗤之以鼻，認為這不過是讓人忍俊不禁的噱頭。那么，機器人到底是不是法律意義上的“人”？機器人應(yīng)不應(yīng)該享有“人權(quán)”？機器人應(yīng)該享有什么樣的“人權(quán)”？在機器人廣泛介入人類生活的今天，這個問題并非變幻莫測的理論空想，而是價值非凡的現(xiàn)實問題。7.5機器人的“人權(quán)”與道德傳統(tǒng)機器人概念強調(diào)無須人類干預(yù)的自動化任務(wù)執(zhí)行，如工業(yè)生產(chǎn)線上的機械臂，其核心是預(yù)先編程的自動化操作。現(xiàn)代機器人概念不僅強調(diào)自動化，還涉及思維、推理、學習、情感和意識等能力，如人形機器人索菲婭，其發(fā)展使機器人與人類的關(guān)系更加復(fù)雜。機器人“人權(quán)”是比喻意義上的概念，反映人類對機器人的道德義務(wù)，如人類應(yīng)如何對待機器人，機器人應(yīng)享有哪些權(quán)利以實現(xiàn)人機和諧相處。隨著機器人智能化和類人化的發(fā)展，其可能具備特定時期享有人權(quán)的心理和道德屬性，從本體論角度看，人工智能早晚應(yīng)享有人權(quán)。機器人在家庭、醫(yī)院等領(lǐng)域的廣泛應(yīng)用，使其與人類社會的關(guān)系日益緊密，承認其“人權(quán)”有助于處理人與機器人、機器人與社會的關(guān)系，促進人機共存。機器人作為人類的輔助工具，其“人權(quán)”實質(zhì)上是人類對機器人所負有的道德義務(wù)，如保護機器人免受濫用和不當對待，確保其合理使用。機器人概念演變機器人“人權(quán)”的哲學思考機器人“人權(quán)”的社會意義7.5.1機器人的“人權(quán)”電影中的道德困境再現(xiàn)電影《我，機器人》中機器人面臨救警官還是小女孩的兩難選擇，反映了現(xiàn)實生活中機器人可能遇到的道德困境，如在資源有限的情況下如何做出道德決策。這一情節(jié)引發(fā)人們對機器人道德判斷能力的思考，機器人缺乏道德推理能力，可能導(dǎo)致其在復(fù)雜情況下做出不符合人類道德標準的選擇。阿西莫夫機器人三定律阿西莫夫提出的機器人三大定律為人類解決機器人道德問題提供了初步思路，如機器人不能傷害人類，應(yīng)服從人類指令，保護自身存在等，但其存在缺陷和模糊之處。機器人三定律強調(diào)了人類安全和機器人服從的重要性，為機器人設(shè)計和應(yīng)用提供了道德框架，但隨著技術(shù)發(fā)展，需要進一步完善和細化。國際社會的倫理探索聯(lián)合國、歐盟等國際組織和國家紛紛關(guān)注機器人倫理問題，如聯(lián)合國發(fā)布機器人倫理報告，歐盟將人工智能倫理列入立法重點，韓國起草《機器人道德法》等，推動機器人倫理規(guī)范的建立。這些探索為解決機器人道德困境提供了寶貴經(jīng)驗，如將道德標準植入計算機程序，規(guī)范機器人設(shè)計者、制造商和用戶的行為，確保機器人符合人類道德要求。7.5.2機器人的道德困境1.人工智能帶來的是福祉還是挑戰(zhàn)？2.文學作品中的人工智能倫理問題是否會在未來現(xiàn)實世界中發(fā)生，若會發(fā)生該如何預(yù)防或解決？3.人工智能倫理問題是否可通過立法來解決？為什么？4.若未來駕駛L5級別的無人駕駛汽車，你會完全相信自動駕駛系統(tǒng)嗎？5.你認為有感情有意識的人工智能是否應(yīng)該享有人權(quán)？為什么？6.若復(fù)制后的“電子人腦”能夠產(chǎn)生思維意識，思維的存在是否就是人的存在呢？7.淺談一下具有自我改造進化能力的人工智能是否具有危險性。8.你身邊有人工智能造假的案例發(fā)生嗎？如果有，分析并談?wù)勛约旱母惺堋?.在日常生活中你有感受到人工智能算法的偏見嗎？比如廣告推送等。10.你擔心人工智能所帶來的失業(yè)問題嗎？對這個問題有什么解決的想法？思考討論謝謝觀看21世紀高等學校計算機類課程創(chuàng)新系列教材計算機工程倫理（微課視頻版）21世紀高等學校計算機類課程創(chuàng)新系列教材第8章虛擬現(xiàn)實技術(shù)倫理21世紀高等學校計算機類課程創(chuàng)新系列教材【引導(dǎo)案例】《頭號玩家》是一部2018年上映的、由史蒂文·斯皮爾伯格執(zhí)導(dǎo)的科幻電影，構(gòu)造了一個未來的人們逃避現(xiàn)實、沉醉虛擬世界的時代背景，由此深刻地討論了虛擬現(xiàn)實等技術(shù)帶來的一系列倫理問題。人們將VR(VirtualReality)游戲“綠洲”作為精神寄托，這一虛擬的VR游戲宇宙成為了全世界的潮流。不論一個人在現(xiàn)實中貧窮還是富有，在這個虛擬的世界中，都有公平的機會成為拯救世界的英雄。“綠洲”的創(chuàng)始人、完美主義者哈利迪將畢生的財產(chǎn)留到了游戲里，任何獲得三把鑰匙的玩家都可以獲得他的全部財產(chǎn)以及對“綠洲”的擁有權(quán)，這引發(fā)了全世界范圍內(nèi)的激烈競爭，由此引發(fā)了一系列倫理問題。一家名為IOI的、綠洲的競爭公司為了能夠控制綠洲，甚至大量雇傭勞工爭奪能夠取得財產(chǎn)的鑰匙，并在現(xiàn)實中通過其強大的財力，大力打壓游戲中的頭號玩家。男主人公憑借著對游戲的極高天賦以及對其設(shè)計者的深入了解，與女主角一行合作，一步一步解開游戲謎題，最終取得了三把鑰匙。他們發(fā)現(xiàn)，那些游戲中的謎題，其實都是哈利迪對現(xiàn)實、對自我的反思。21世紀高等學校計算機類課程創(chuàng)新系列教材8.1虛擬現(xiàn)實技術(shù)倫理概念8.1.1虛擬現(xiàn)實技術(shù)介紹和發(fā)展史1．虛擬現(xiàn)實技術(shù)介紹

虛擬現(xiàn)實技術(shù)簡稱VR（VirtualReality），它是計算機領(lǐng)域的一門新技術(shù)，是綜合計算機圖形技術(shù)、多媒體技術(shù)、人機交互技術(shù)、網(wǎng)絡(luò)技術(shù)、立體顯示技術(shù)及仿真技術(shù)等多種科學技術(shù)綜合發(fā)展起來的。2．虛擬現(xiàn)實技術(shù)發(fā)展史2016年定義為虛擬現(xiàn)實技術(shù)的元年21世紀高等學校計算機類課程創(chuàng)新系列教材8.1.2虛擬現(xiàn)實技術(shù)的應(yīng)用領(lǐng)域及影響1．虛擬現(xiàn)實技術(shù)的應(yīng)用領(lǐng)域：娛樂、教育、醫(yī)學和軍事領(lǐng)域等【案例8-1】虛擬演唱會2023年1月7日，COCO李玟“千禧之境”6DoF全虛擬VR演唱會上線PICO視頻。據(jù)了解，這是國內(nèi)首場明星6DoF全虛擬VR演唱會，也是PICO首次嘗試集6DoF體驗、全虛擬場景和實時動捕技術(shù)于一體的VR視頻內(nèi)容。演唱會以搭乘“時光列車”穿越至千禧年代“解救”李玟作為故事主線，為觀眾帶來了不一樣的VR演唱會視聽體驗。演唱會整體可以劃分為四個部分：奇幻東方（東方主題）、CoCo迪斯科（迪斯科主題）、拾光之遇（寶蓮燈動畫主題）、千禧樂園（Y2K主題）。四個部分代表了四個不同的場景也代表了不同的曲目曲風。演唱會的四個場景風格迥異，PICO巧妙地使用時光列車進行各個主題場景之間的切換銜接，讓觀眾自然而然地就完成了場景切換的過程，一點都不感覺生硬。與傳統(tǒng)演唱會相比，目前的虛擬演唱會雖然還無法達到和歌手真人面對面互動的效果，但也同樣為觀眾提供了許多傳統(tǒng)演唱會所達不到的新奇玩法和交互體驗。21世紀高等學校計算機類課程創(chuàng)新系列教材8.2虛擬技術(shù)倫理問題1.倫理與虛擬現(xiàn)實技術(shù)倫理定義：倫理是社會基本人際關(guān)系規(guī)范及道德原則，受經(jīng)濟關(guān)系決定，以善惡為評價標準。虛擬現(xiàn)實技術(shù)的主要倫理問題：主體性問題安全倫理問題責任倫理問題隱私倫理問題21世紀高等學校計算機類課程創(chuàng)新系列教材8.2.1主體性問題（1）道德主體意識的虛化原因：虛擬空間的隱匿性使人忘卻現(xiàn)實道德規(guī)范，導(dǎo)致“人性釋放”與主體意識流失。過度依賴虛擬技術(shù)（如互聯(lián)網(wǎng)、VR）導(dǎo)致“虛擬物奴役現(xiàn)實人”，尤其是青少年。信息過載引發(fā)緊迫感、壓抑感，削弱思維深度（如誘導(dǎo)性廣告干擾決策）。影響：虛擬與現(xiàn)實角色混淆（如沉迷游戲?qū)е律?心理問題）。虛擬身份成為逃避現(xiàn)實的“避風港”，加劇消極心理與自我意志喪失。21世紀高等學校計算機類課程創(chuàng)新系列教材（2）道德意識的虛化表現(xiàn)