【ZiDongHua之“自動化學院派”收錄關鍵詞：華中科技大學   人工智能  信息安全    智能體 大模型  】
 
　　安全防御AI一體|我院胡曉婭教授團隊聯(lián)合企業(yè)推出國內首款增強安全AI一體機
 
　　01
 
　　人工智能安全是國家戰(zhàn)略
 
　　二十大報告指出，人工智能是國家戰(zhàn)略的重要組成部分，是未來國際競爭的焦點和經濟發(fā)展的新引擎。國家互聯(lián)網(wǎng)信息辦公室公布的最新數(shù)據(jù)顯示，截至2025年3月31日，我國共有346款生成式人工智能服務完成備案，大模型成為賦能企業(yè)數(shù)字化轉型的新標配。隨著以GPT-4、DeepSeek等為代表的千億級參數(shù)AI大模型進入產業(yè)化應用階段，在提升各垂直行業(yè)智能化的同時，AI大模型面臨的安全威脅呈現(xiàn)出指數(shù)級增長態(tài)勢。行業(yè)數(shù)據(jù)顯示，截止到2025年3月，針對大模型的攻擊呈現(xiàn)爆發(fā)式增長，但安全防御體系因技術滯后和攻擊手段快速迭代面臨嚴峻挑戰(zhàn)，導致各行業(yè)面臨前所未有的安全風險。全球AI系統(tǒng)遭受的安全攻擊數(shù)量同比激增280%，其中針對大模型API接口的攻擊類型占比高達65%。上述攻擊不僅可能導致模型服務中斷，更會引發(fā)數(shù)據(jù)泄露、內容安全失控等系統(tǒng)性風險。當前AI安全基礎設施面臨技術、治理與生態(tài)的多重挑戰(zhàn)，呈現(xiàn)出"防御滯后、治理分裂、生態(tài)脆弱"的復雜格局。
 
　　02
 
　　AI大模型應用安全面臨嚴峻挑戰(zhàn)
 
　　圖1.大模型全生命周期過程均面臨著嚴重的信息安全威脅
 
　　AI大模型安全應用中的信息安全威脅主要包括數(shù)據(jù)投毒、模型竊取、對抗樣本和后門攻擊等（圖1）。數(shù)據(jù)投毒攻擊通過構造特殊查詢指令，利用模型輸出中的隱蔽通道竊取訓練數(shù)據(jù)中的敏感隱私信息；模型竊取攻擊采用黑盒查詢與逆向工程技術，非法獲取目標模型的架構參數(shù)或決策邊界特征，造成模型隱私泄露；對抗樣本攻擊對輸入數(shù)據(jù)施加人眼不可見的特定擾動，誘導模型產生錯誤分類或異常輸出，破壞系統(tǒng)可靠性；后門攻擊則在模型訓練階段植入惡意樣本，使特定觸發(fā)模式（如圖像水印）輸入時激活預設的異常行為，形成系統(tǒng)性安全漏洞。上述信息安全威脅形成數(shù)據(jù)安全、模型安全與應用可靠性的多維度威脅，并在大模型部署、訓練運維等全生命周期中引發(fā)系統(tǒng)性安全崩塌風險。
 
　　03
 
　　增加安全AI一體機受到業(yè)內廣泛關注
　　圖2.增強安全AI一體機
 
　　針對這些挑戰(zhàn)，人工智能安全實驗室胡曉婭教授團隊與武漢國創(chuàng)超算科技有限公司聯(lián)合研發(fā)，創(chuàng)新出品全國首款增強安全AI一體機（圖2）。增強安全AI一體機突破現(xiàn)有的AI大模型防護方法注重系統(tǒng)單點或局部安全的局限性問題，為AI大模型提供一套全局性、系統(tǒng)化、完整化AI大模型信息安全防護流程，覆蓋大模型全生命運行周期與服務全流程，為高價值AI系統(tǒng)信息安全防護提供了系統(tǒng)級解決方案，提高了大模型在私有化部署下的安全能力。
 
 
　　圖3.AI一體機增強安全解決方案
 
　　增強安全AI一體機通過“輸入防護-模型加固-輸出防護”的信息安全防護框架系統(tǒng)化加固大模型服務全流程，并通過攻防測試實驗驗證該框架在應對模型竊取、敏感信息泄露、提示注入、后門攻擊等多類攻擊場景下的防御有效性。通過軟件解析+硬件加密的方法實現(xiàn)模型輸入的精準防護，通過基于設備指紋的身份認證，攔截不可信節(jié)點的惡意服務請求，并基于真隨機數(shù)的密碼卡對合法用戶的密文輸入和模型輸出進行加解密操作；并對模型接入的流量與模型輸出進行過濾和清洗，實現(xiàn)模型的安全可信輸入輸出，深度保護模型隱私安全。模型加固部分由對抗訓練與模型防御優(yōu)化構成，對抗訓練部分通過差分隱私等加密技術，保護模型參數(shù)與隱私信息并通過對抗樣本訓練增強模型防御能力；同時通過防御優(yōu)化模塊，在不影響模型性能的前提下對模型結構進行魯棒優(yōu)化，增強AI大模型對對抗樣本污染等信息安全威脅的抵抗能力。形成了從輸入到輸出，以大模型為載體的全流程、縱深式大模型信息安全防御架構。