《人工智能導論》教學設計 第7章 人工智能的未來挑戰與責任-教案

人工智能通識課教學設計課程名稱：人工智能通識課授課年級：大二各年級授課學期：2026-2027學年第1學期教師姓名：任課教師專業類別：理工科（非計算機類）上課地點：多媒體教室總學時：48學時（理論16+實驗32）使用教材：人工智能導論日期：2026年09月教案正文課題名稱第7章人工智能的未來挑戰與責任計劃學時2學時內容分析本章是全課程的收官之章，從"技術"轉向"治理與倫理"。

內容涵蓋AI四大風險類型（幻覺/偏見/隱私/深度偽造）的真實案例分析、

全球三大AI治理范式對比（歐盟風險分級/美國行業自律/中國發展與治理并重）、

"負責任AI"五層框架（安全/公平/透明/隱私/人類可控）、

可解釋性AI（XAI）的核心價值，以及AI"能為"與"不能為"的全課程總結。

本章旨在幫助學生完成從"AI使用者"到"負責任的AI時代公民"的觀念躍遷。思政融入通過AI換臉詐騙等國內真實案例，引導學生樹立數字公民意識與自我保護意識；

通過全球三大治理范式對比，展示我國"發展與治理并重"方案的前瞻性與體系性優勢；

通過"負責任AI"五層框架的學習，培養學生"以人為本、智能向善"的技術價值觀，

引導他們成為有擔當的AI時代建設者。一、教學目標及基本要求【知識目標】·了解AI技術應用中的主要風險類型——幻覺、偏見、隱私泄露與深度偽造；·熟悉全球三大AI治理范式（歐盟風險分級/美國行業自律/中國"發展與治理并重"）的基本思路；·掌握"負責任AI"的五層框架——安全可靠/公平無偏見/透明可解釋/隱私保護/人類可控。【能力目標】·能夠運用"可解釋性AI（XAI）"視角分析具體AI應用（如肺炎診斷AI）的黑箱風險；·能夠識別日常生活中AI偏見和深度偽造的典型案例，并提出基本的防范建議；·具備初步的AI治理素養，能理性看待AI的"能為"與"不能為"，形成獨立的技術判斷力。【素養目標】·樹立"以人為本、智能向善"的技術價值觀，明確AI技術必須服務于人類福祉；·增強數字公民意識，能夠主動識別和抵制AI濫用行為（如AI換臉詐騙）；·培養"發展與治理并重"的系統思維，成為負責任的技術使用者與未來的建設者。二、教學重點、難點與教學方式教學重點1.AI四大風險類型（幻覺/偏見/隱私/深度偽造）的具體案例與危害分析；

2.全球三大AI治理范式的對比分析；

3."負責任AI"五層框架的核心理念。教學難點1.可解釋性AI（XAI）的核心價值——不僅要知道AI"說了什么"，還要知道它"為什么這么說"；

2.如何在"技術發展"與"倫理約束"之間找到平衡點——不是非此即彼，而是"在發展中治理，在治理中發展"；

3.培養學生獨立的技術判斷力——不盲目恐懼AI，也不盲目信任AI。教學方式以案例教學為主，通過肺炎AI"黑箱"、ChatGPT虛構判例、Tay聊天機器人被"教壞"、亞馬遜招聘AI性別歧視等真實案例引發思考；

安排小組討論與課堂辯論，圍繞"AI換臉技術該不該被禁止"展開思辨；

引導學生以"負責任的AI使用者"身份，制定個人的AI使用準則。三、教學過程第一課時（AI的風險與危機）1.創設情境，導入新課(1)教師展示真實新聞截圖："某公司遭遇AI換臉詐騙，10分鐘被騙走430萬元"——引發學生對AI風險的關注。(2)教師提問："學了7章AI，你覺得AI最大的風險是什么？是它太笨了還是它太聰明了？"(3)明確目標：系統認識AI的四大風險，建立"技術不是中立的"這一基本認知。2.進行重點知識的講解（1）AI幻覺——"一本正經地胡說八道"案例1：美國律師用ChatGPT撰寫法律文書，ChatGPT虛構了6個不存在的判例，律師在法庭上引用后被法官發現——該律師面臨紀律處分。案例2：肺炎診斷AI——模型基于"拍攝設備型號"而非"肺部病灶特征"來判斷，因為訓練數據中某一型號設備拍的X光片幾乎全是肺炎患者（數據偏差）。一旦更換設備，診斷準確率驟降。這就是"黑箱"問題——你不知道AI的決策依據是什么。課堂討論："如果AI醫生給你開了藥，你敢不敢吃？你憑什么相信或不相信？"（2）AI偏見——"算法的數學公式也會歧視人"案例1：亞馬遜招聘AI——訓練數據是過去10年的簡歷和錄用記錄（以男性為主），AI學會"偏好男性簡歷"，給含"women"字樣的簡歷降分。案例2：Tay聊天機器人——微軟在Twitter上發布的AI聊天機器人，不到24小時被網友"教壞"，開始發表種族歧視和性別歧視言論。偏見來源：數據偏見（訓練數據反映人類社會已有偏見）、算法偏見（模型學習到不相關的偽相關）、交互偏見（用戶惡意引導）。（3）隱私泄露與深度偽造隱私風險：向AI上傳的個人信息可能被納入訓練數據、被其他用戶查詢到或遭到數據泄露。深度偽造（Deepfake）：AI換臉技術被用于制作虛假色情視頻、偽造政治人物演講、制造假新聞。課堂辯論："AI換臉技術是否應該被全面禁止？正方：應該禁止，危害太大。反方：不應全面禁止，技術在影視制作/教育等領域有正面價值，關鍵在于規范使用。"3.歸納總結，布置課后作業(1)課堂小結：AI四大風險——幻覺（事實錯誤）→偏見（歧視放大）→隱私（數據失控）→深度偽造（身份盜用）。(2)課后作業：收集一個AI風險的新聞案例，分析其風險類型、產生原因和可能的防范措施；預習7.2節AI治理與未來。第二課時（AI治理與"負責任AI"的未來）1.回顧上節課內容，明確本節課學習目標(1)快速回顧：AI四大風險——幻覺/偏見/隱私/深度偽造。(2)引出問題："面對這么多風險，全球各國是怎么應對的？我們每個人又能做什么？"2.進行重點知識的講解（1）全球三大AI治理范式治理范式核心理念代表地區特點風險分級監管按AI應用風險等級分類管理（不可接受/高風險/有限風險/低風險）歐盟（EUAIAct）全球首部綜合性AI立法，對高風險AI系統實施嚴格準入行業自律為主鼓勵企業自我約束+行業標準，政府干預最小化美國強調創新優先，避免過度立法"扼殺技術"發展與治理并重"在發展中治理，在治理中發展"——發展與安全兩手抓中國出臺《生成式AI服務管理辦法》等法規，強調統籌發展與安全（2）"負責任AI"五層框架安全可靠：AI系統應穩定運行，能抵御攻擊，不造成意外傷害。公平無偏見：AI不應因種族、性別、年齡等因素產生歧視性結果。透明可解釋：AI的決策過程應向用戶公開，讓人能理解"為什么得出這個結論"（XAI-可解釋性AI）。隱私保護：AI在收集和使用數據時應尊重用戶隱私，遵守數據保護法規。人類可控：重大決策的最終決定權應保留在人類手中，AI是輔助工具而非最終決策者。（3）AI的"能為"與"不能為"——全課程總結AI能為：處理海量信息、識別復雜模式、執行高重復性任務——是"人類能力的放大器"。AI不能為：沒有真實理解（只是統計關聯）、會產生幻覺、沒有真實情感、不具備道德判斷能力、不會主動思考"應該做什么"。核心結論：AI是人類能力的放大器，而非替代者。面對AI時代，我們需要的不是恐懼也不是盲從，而是——理解它、善用它、警惕它、讓它服務于人。3.歸納總結，布置課程總結作業(1)課堂小結與全課程回顧：7章內容思維導圖——第1章（AI概覽）→第2章（大模型）→第3章（智能體）→第4章（ML）→第5章（ANN）→第6章（DL）→第7章（治理與未來）。(2)課堂討論："學完這門課，你對AI的看法有什么改變？你覺得自己準備好了嗎？"(3)課程總結作業：寫一篇不少于800字的學習總結，題目為《AI時代的我：認識、能力與責任》，要求：①回顧