一、培訓(xùn)背景
隨著AI技術(shù)深度融入各行業(yè),大模型、智能識別系統(tǒng)、AI供應(yīng)鏈等面臨對抗樣本攻擊、數(shù)據(jù)泄露、模型劫持等新型安全風(fēng)險(xiǎn)。傳統(tǒng)安全防護(hù)手段已無法應(yīng)對AI特有的攻擊路徑,亟需掌握AI安全攻防核心技能的專業(yè)人才。
本課程通過“理論+實(shí)驗(yàn)+對抗”模式,系統(tǒng)性講解AI安全漏洞原理、攻擊手法及防御策略,覆蓋從模型開發(fā)到部署的全生命周期安全防護(hù),幫助學(xué)員實(shí)現(xiàn)從“被動防御”到“主動對抗”的能力躍遷。
二、培訓(xùn)對象
網(wǎng)絡(luò)安全專業(yè)人員、滲透測試人員、安全運(yùn)維人員、安全顧問和管理人員、學(xué)生和研究人員、AI研發(fā)工程師、算法工程師、數(shù)據(jù)科學(xué)家、AI系統(tǒng)運(yùn)維人員。
三、培訓(xùn)收益
1、掌握AI安全核心漏洞:
深入理解大模型提示詞注入、梯度泄露、供應(yīng)鏈攻擊等前沿風(fēng)險(xiǎn)。
2、攻防實(shí)戰(zhàn)能力提升:
通過實(shí)驗(yàn)復(fù)現(xiàn)主流攻擊(如對抗樣本生成、模型逆向工程),設(shè)計(jì)針對性防御方案。
3、合規(guī)與隱私保護(hù):
學(xué)習(xí)AI數(shù)據(jù)脫敏、聯(lián)邦學(xué)習(xí)、差分隱私等技術(shù),滿足GDPR等法規(guī)要求。
4、 紅藍(lán)對抗思維:
通過分組演練,模擬真實(shí)場景下AI系統(tǒng)攻防對抗,提升應(yīng)急響應(yīng)能力。
四、培訓(xùn)信息
培訓(xùn)方式:
培訓(xùn)采用線下專家面授+同步直播的形式。所有課程均贈送學(xué)習(xí)教材、視頻回放、
答疑交流群、促學(xué)服務(wù)等。并對考生提供專人報(bào)考、考試指導(dǎo)、證書郵寄等。多維度精
細(xì)化教學(xué),一站式報(bào)考服務(wù),滿足不同企業(yè)及學(xué)員的學(xué)習(xí)需求。
五、培訓(xùn)內(nèi)容
培訓(xùn)共計(jì)3天,每天6小時(shí),具體日程安排如下:
日程 | 主題 | 內(nèi)容 |
第一天 AI安全基礎(chǔ)攻防 |
大模型提示詞漏洞攻防 | 理論:Prompt Injection分類(直接/間接/多模態(tài)) 實(shí)驗(yàn):構(gòu)造惡意提示詞注入,觸發(fā)模型輸出敏感內(nèi)容 實(shí)驗(yàn):多模態(tài)提示詞(文本+圖像)繞過OCR檢測 |
敏感信息泄露與防護(hù) | 理論:模型元數(shù)據(jù)泄露原理(gguf/metadata解析) 案例:System Prompt Leakage復(fù)現(xiàn) 實(shí)驗(yàn):利用工具提取模型元數(shù)據(jù) 實(shí)驗(yàn):設(shè)計(jì)防護(hù)策略封堵泄露漏洞 |
|
第二天供應(yīng)鏈漏洞與進(jìn)階攻擊 | 大模型供應(yīng)鏈漏洞分析 | 理論:供應(yīng)鏈攻擊路徑(Ollama/Ray/Deepseek) 案例:開源框架未授權(quán)漏洞導(dǎo)致模型劫持 實(shí)驗(yàn):利用Ollama漏洞植入后門模型 實(shí)驗(yàn):Deepseek未授權(quán)訪問漏洞復(fù)現(xiàn) |
梯度泄露與對抗防御 | 理論:梯度反推攻擊原理與數(shù)據(jù)逆向工程 案例:通過訓(xùn)練梯度泄露用戶隱私數(shù)據(jù) 實(shí)驗(yàn):生成對抗樣本繞過AI檢測系統(tǒng) 實(shí)驗(yàn):設(shè)計(jì)梯度噪聲干擾防御方案 |
|
第三天綜合攻防與真實(shí)場景實(shí)戰(zhàn) | RealWorld偽造攻擊 | 理論:DeepFace/DeepVoice偽造技術(shù)原理 案例:生成高仿真人臉/語音欺騙身份驗(yàn)證系統(tǒng) 實(shí)驗(yàn):使用DeepFace生成虛假人臉 實(shí)驗(yàn):合成語音繞過聲紋識別系統(tǒng) |
IoT與AI融合漏洞利用 | 理論:智能設(shè)備固件漏洞與AI模型聯(lián)動風(fēng)險(xiǎn) 案例:通過OCR漏洞劫持IoT設(shè)備控制權(quán) |
|
紅藍(lán)對抗演練 | 綜合實(shí)驗(yàn):分組模擬攻擊鏈(如多模態(tài)注入+供應(yīng)鏈投毒) 防御設(shè)計(jì):制定全鏈路防護(hù)方案并驗(yàn)證有效性 |
六、專家講師
高老師 | CTO/資深技術(shù)顧問/信息安全專家
近十年IT互聯(lián)網(wǎng)運(yùn)維服務(wù)管理與信息安全領(lǐng)域研究與從業(yè)經(jīng)驗(yàn),主要從事運(yùn)維服務(wù)管理規(guī)劃、運(yùn)維架構(gòu)、自動化體系建立和實(shí)施、信息安全風(fēng)險(xiǎn)評估、信息安全管理體系建立和實(shí)施等方面工作,具備豐富的IT服務(wù)管理和信息安全管理咨詢實(shí)踐經(jīng)驗(yàn),尤其在金融、運(yùn)營商、政府行業(yè)有豐富的項(xiàng)目實(shí)施經(jīng)驗(yàn)。
目前主要專業(yè)領(lǐng)域集中于IT服務(wù)管理、IT風(fēng)險(xiǎn)管理與控制、信息安全等方面,曾服務(wù)的主要客戶有:中國金幣總公司、千方集團(tuán)、行園汽車、德法利集團(tuán)、中彩網(wǎng)等。
專業(yè)資質(zhì):
CISP 注冊信息安全專業(yè)人員—系國家對信息安全人員資質(zhì)的最高認(rèn)可
CISP-PTE 注冊信息安全專業(yè)人員—滲透測試工程師
ISO27001 Foundation 國際信息安全管理體系標(biāo)準(zhǔn)
ITLE 信息技術(shù)基礎(chǔ)架構(gòu)庫認(rèn)證—項(xiàng)目管理專家
OSTA 全國計(jì)算機(jī)信息高新技術(shù)人員
七、相關(guān)證書
參加培訓(xùn)并通過考試學(xué)員,由中國信息化培訓(xùn)中心頒發(fā)《AI安全攻防專家》職業(yè)技能培訓(xùn)證書。該證書可作為專業(yè)技術(shù)人員職業(yè)能力考核的證明,以及專業(yè)技術(shù)人員崗位聘用、任職、定級和晉升職務(wù)的重要依據(jù)。