培訓背景
隨著AI技術深度融入各行業,大模型、智能識別系統、AI供應鏈等面臨對抗樣本攻擊、數據泄露、模型劫持等新型安全風險。傳統安全防護手段已無法應對AI特有的攻擊路徑,亟需掌握AI大模型安全攻防核心技能的專業人才。
本課程聚焦大模型漏洞挖掘、數據隱私保護、對抗攻擊防御等前沿領域,結合真實案例與實驗演練,助力學員構建AI安全全棧能力。
課程簡介
當前,人工智能蓬勃發展,AI大模型已成為推動各行業變革的關鍵力量,然而其安全隱患也隨之浮出水面。中培偉業特邀行業專家,精心打造了《AI大模型安全攻防實戰》課程,并在全國實施培訓,課程深入剖析AI大模型的架構原理,幫助學員透徹理解模型運作機制,進而系統梳理數據隱私泄露、模型竊取、對抗樣本攻擊等各類安全威脅及其背后原理。學員不僅能學習構造對抗樣本、實施模型竊取和數據投毒攻擊等實操技術,還將全面掌握數據加密、模型加固以及檢測對抗樣本等全流程防御策略,切實提升應對AI大模型安全挑戰的實戰能力。
參加培訓并通過考試學員,由中國信息化培訓中心頒發《AI安全攻防專家》職業技能培訓證書。該證書可作為專業技術人員職業能力考核的證明,以及專業技術人員崗位聘用、任職、定級和晉升職務的重要依據。
培訓對象
Ø 網絡安全專業人員
Ø 滲透測試人員
Ø 安全運維人員
Ø AI研發工程師
Ø AI系統運維人員
Ø 安全顧問和管理人員
Ø 算法工程師
Ø 數據科學家等
培訓收益
ü 掌握AI安全核心漏洞:
深入理解大模型提示詞注入、梯度泄露、供應鏈攻擊等前沿風險。
ü 攻防實戰能力提升:
通過實驗復現主流攻擊(如對抗樣本生成、模型逆向工程),設計針對性防御方案。
ü 合規與隱私保護:
學習AI數據脫敏、聯邦學習、差分隱私等技術,滿足GDPR等法規要求。
ü 紅藍對抗思維:
通過分組演練,模擬真實場景下AI系統攻防對抗,提升應急響應能力。
中培優勢
課程大綱
日程 | 主題 | 內容 |
第一天 AI安全基礎攻防 |
AI與AI安全基礎 | Ø 人工智能概述與AI安全基本概念 Ø 人工智能的定義與發展歷程 Ø AI的應用領域 Ø AI的分類與技術框架 Ø AI在網絡安全中的角色與安全挑戰 Ø AI技術演變與安全技術融合 Ø AI驅動的安全技術創新 Ø 國內主流大模型(DS、QWEN、九天)技術架構與安全風險對比 Ø 9.MaaS平臺(如百度AI、阿里云MaaS)安全架構設計案例 Ø 10.MaaS平臺(模型即服務)安全架構設計原則 |
AI越獄與安全性分析 | Ø AI模型與算法安全性分析: Ø (1) 對抗樣本攻擊 Ø (2) 模型竊取攻擊 Ø (3) 數據投毒攻擊 Ø (4) 模型解釋性和透明性 Ø 數據隱私保護與安全措施 Ø AI越獄實操演示 Ø (1) 基于DS/QWEN模型的越獄攻擊實操(如Prompt注入、模型濫用) Ø MCP三大核心-拆解Resources、Tools、Prompts如何讓大語言模型從空談家變身實干派 Ø (1) MCP框架拆解:結合DS模型演示Resources/Tools/Prompts的攻防博弈 |
|
大模型提示詞漏洞攻防 | Ø 理論:Prompt Injection分類(直接/間接/多模態) Ø 實驗:構造惡意提示詞注入,觸發模型輸出敏感內容 Ø 實驗:多模態提示詞(文本+圖像)繞過OCR檢測 |
|
AI模型的安全風險 | Ø 大模型的安全風險概述 Ø (1)數據隱私問題 Ø (2)模型濫用 Ø (3)可解釋性問題 Ø (4)資源濫用 Ø 典型攻擊與應對策略 Ø (1) 國內某金融大模型提示攻擊事件復盤(攻擊路徑、損失、修復方案) Ø (2) 對抗攻擊實戰:使用具體工具生成對抗樣本并測試模型魯棒性 Ø 大模型面臨的特殊挑戰 Ø (1)模型復雜性與安全性之間的權衡 Ø (2)實時防御與響應機制 Ø (3)MaaS平臺跨領域安全協同問題 Ø (4)多方協作與監管問題 |
|
第二天供應鏈漏洞與進階攻擊 | 敏感信息泄露與防護 | Ø 理論:模型元數據泄露原理(gguf/metadata解析) Ø 案例:System Prompt Leakage復現 Ø 實驗:利用工具提取模型元數據 Ø 實驗:設計防護策略封堵泄露漏洞 |
大模型供應鏈漏洞分析 | Ø 理論:供應鏈攻擊路徑(Ollama/Ray/Deepseek) Ø 案例:開源框架未授權漏洞導致模型劫持 Ø 實驗:利用Ollama漏洞植入后門模型 Ø 實驗:Deepseek未授權訪問漏洞復現 |
|
梯度泄露與對抗防御 | Ø 理論:梯度反推攻擊原理與數據逆向工程 Ø 案例:通過訓練梯度泄露用戶隱私數據 Ø 實驗:生成對抗樣本繞過AI檢測系統 Ø 實驗:設計梯度噪聲干擾防御方案 |
|
AI安全防御與應對機制 | Ø 對抗防御技術 Ø (1)對抗訓練 Ø (2)對抗檢測與修復 Ø (3)基于生成模型的防御 Ø (4)輸入數據的驗證與修正 Ø (5)基于AI的實時防御系統架構 Ø 模型驗證與檢測 Ø (1)模型的穩健性驗證與工具 Ø (2)模型可解釋性與透明性 Ø (3)使用模型審計工具(AI Fairness 360)檢測模型偏見 Ø 實時安全監控與風險評估 Ø (1)政企AI安全風險評估框架 Ø (2)模型行為監控 Ø (3)異常檢測與響應 Ø AI安全法律與合規分析 Ø (1)算法公平性與歧視 Ø (2)AI透明性與可解釋性 Ø (3)國內AI倫理審查機制與案例 |
|
AI安全標準與實踐案例 | Ø AI安全框架與成熟度模型介紹 Ø AI安全標準建設與認證實踐 Ø 國內AI安全標準對比(《網絡安全標準實踐指南—生成式AI服務安全要求》) Ø 現實世界中的AI安全問題深度分析與解決方案 Ø AI倫理道德挑戰與倫理框架構建 Ø AI安全技術未來發展方向 Ø 政策與法規的未來演變趨勢 |
|
AI安全治理與全生命周期管理 | Ø AI安全治理框架核心要素 Ø AI安全治理框架安全策略 Ø AI安全治理框架與數據安全 Ø AI安全對抗性攻擊防護 Ø AI安全生命周期管理:DevSecOps與安全需求分析與實際運用方法 Ø AI滲透測試技術與方法 Ø (1)對抗性樣本攻擊 Ø (2)數據投毒攻擊 Ø (3)模型反向工程 Ø (4)API濫用測試 Ø A基于DS模型的DevSecOps流水線設計(從需求分析到上線監控) Ø 滲透測試實操:針對MaaS平臺的API濫用測試(如參數篡改、越權訪問) |
|
第三天綜合攻防與真實場景實戰 | 第三方大模型安全性評估 | Ø 評估框架:模型安全性、運營服務安全性、合規性三維評估體系 Ø 實操工具:使用自動化工具(Model Card)評估DS/QWEN/等 Ø 上架前評估:安全測試流程方法與合規檢查清單 Ø MaaS平臺安全設計 Ø 架構設計:軟硬件安全隔離、模型沙箱、API網關防護部署方法 Ø 國內實踐:某云廠商MaaS平臺安全設計方案解析 |
RealWorld偽造攻擊 | Ø 理論:DeepFace/DeepVoice偽造技術原理 Ø 案例:生成高仿真人臉/語音欺騙身份驗證系統 Ø 實驗:使用DeepFace生成虛假人臉 Ø 實驗:合成語音繞過聲紋識別系統 |
|
IoT與AI融合漏洞利用 | Ø 理論:智能設備固件漏洞與AI模型聯動風險 Ø 案例:通過OCR漏洞劫持IoT設備控制權 |
|
紅藍對抗演練 | Ø 綜合實驗:分組模擬攻擊鏈(如多模態注入+供應鏈投毒) Ø 防御設計:制定全鏈路防護方案并驗證有效性 |
講師團隊
方老師 勒索治理領域專家
多年一線工作經驗,疫情期間協助近千家單位、醫院、教育、能源、金融、政企單位等處理勒索應急事例、協助數據恢復,擅長交流分析、擁有解決任何網絡安全事故難點的能力,且自研一整套體系數據安全/勒索防范了類產品,具備一整套安全 全領域體系課程材料和具備從 0-1的安全體系化建設與行業前景風險分析能力,指導過包含政企、廠商、在校學生、自由職業者等在內的百余位學生完成行業人生職業規劃。基于國企央企客戶資源和廣泛的商業網絡,曾經與多家國內知名企業如華潤集團、電信集團、院校、醫院、政府部門等建立了長期穩定的合作關系且深入了解客戶需求,尤其是數據安全方向,善于通過技術角度提供量身定制的解決方案,并通過優質的產品和服務贏得了客戶的信任和支持。
梁老師 資深網絡安全專家
十余年網絡安全行業經驗,自2007年投身IT與網絡安全領域以來,長期專注于網絡安全研究、實戰攻防、安全建設與改造、安全培訓交流及應急事件處理等核心工作。職業生涯早期深耕安全滲透測試與網站漏洞挖掘,積累了豐富的實戰經驗。2019年后,工作重心轉向網絡安全服務,網絡安全建設改造項目,網絡安全技術培訓,網絡安全意識培訓,安全服務咨詢等工作。長期為各類企業、政府、廠商及培訓機構提供高質量的培訓與咨詢服務。
高老師 CTO/資深技術顧問/信息安全專家
近十年IT互聯網運維服務管理與信息安全領域研究與從業經驗,主要從事運維服務管理規劃、運維架構、自動化體系建立和實施、信息安全風險評估、信息安全管理體系建立和實施等方面工作,具備豐富的IT服務管理和信息安全管理咨詢實踐經驗,尤其在金融、運營商、政府行業有豐富的項目實施經驗。目前主要專業領域集中于IT服務管理、IT風險管理與控制、信息安全等方面,曾服務的主要客戶有:中國金幣總公司、千方集團、行園汽車、德法利集團、中彩網等。