【ZiDongHua 之“品牌自定位”收錄關(guān)鍵詞：奇安信 人工智能 大模型 機(jī)器人 】
 
　　奇安信亮相世界人工智能大會(huì)：共話AI安全生態(tài)，展示大模型防護(hù)成果
 
　　7月26日，2025世界人工智能大會(huì)（WAIC）在上海世博中心盛大啟幕。今年大會(huì)匯聚了來自70多個(gè)國家和地區(qū)、1500余位頂尖專家，其中包括12位圖靈獎(jiǎng)、諾貝爾獎(jiǎng)等頂獎(jiǎng)得主，80余位中外院士和多個(gè)國際頂尖實(shí)驗(yàn)室代表，超過800家企業(yè)，全面展現(xiàn)大模型、多模態(tài)與具身智能的發(fā)展新趨勢(shì)和最新成果。
 
　　奇安信集團(tuán)副總裁鄔怡受邀出席“AI與人類的和諧未來”主題圓桌論壇，圍繞AI安全風(fēng)險(xiǎn)與圖靈獎(jiǎng)得主、清華大學(xué)人工智能學(xué)院院長(zhǎng)姚期智，美國加州大學(xué)伯克利分校教授斯圖爾特•羅素，中國信息通信研究院院長(zhǎng)、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟秘書長(zhǎng)余曉暉，英國皇家工程院院士、約克大學(xué)教授約翰•麥克德米，清華大學(xué)交叉信息研究院副院長(zhǎng)、教授徐葳展開討論。展會(huì)期間，奇安信通過與中國電子（CEC）、施耐德電氣等合作伙伴的聯(lián)合展示，全面呈現(xiàn)了公司在大模型安全、智能安全運(yùn)營(yíng)等領(lǐng)域的最新成果。
 
　　奇安信副總裁鄔怡：AI安全不能“裸奔”，需從系統(tǒng)視角構(gòu)建防御閉環(huán)
 
　　奇安信副總裁鄔怡提出：AI安全不僅僅是模型本身的安全，更應(yīng)從系統(tǒng)層級(jí)出發(fā)，關(guān)注AI生態(tài)系統(tǒng)中各類環(huán)節(jié)的協(xié)同安全。他認(rèn)為，就像操作系統(tǒng)的安全高度依賴其周邊系統(tǒng)一樣，大語言模型的安全也受到數(shù)據(jù)、插件、工具鏈等外圍要素的深刻影響。
 
　　
 
　　他指出，當(dāng)前AI正向具備決策能力的“Agentic AI”演進(jìn)，并以“數(shù)字員工”的形式深度參與業(yè)務(wù)流程。然而，正如人也可能誤判或被誤導(dǎo)，AI同樣可能遭受攻擊并作出有害決策。他以攻防實(shí)戰(zhàn)經(jīng)驗(yàn)為例指出：目前商用大模型普遍存在被注入攻擊的漏洞，攻擊方式也日趨復(fù)雜，模仿人類欺騙手法，讓模型在不知不覺中輸出違背其“安全原則”的內(nèi)容。
 
　　
 
　　他警示說，AI一旦深度介入關(guān)鍵生產(chǎn)流程，其背后的網(wǎng)絡(luò)攻擊將可能穿透虛擬邊界，直接影響現(xiàn)實(shí)物理世界的安全。這對(duì)關(guān)鍵基礎(chǔ)設(shè)施而言，是極具破壞性的潛在威脅。他主張要將AI視作“具有人格角色”的系統(tǒng)參與者，引入工業(yè)化流程中的“雙人操作、交叉驗(yàn)證”等冗余機(jī)制來應(yīng)對(duì)AI的不確定性。
 
　　鄔怡強(qiáng)調(diào)，AI技術(shù)演進(jìn)不可逆，不能因風(fēng)險(xiǎn)止步不前，但必須在節(jié)奏上保持審慎，特別是在安全機(jī)制尚未成熟的前提下，防止盲目推廣。他呼吁政府、產(chǎn)業(yè)和科研界攜手制定更系統(tǒng)化的AI安全標(biāo)準(zhǔn)和落地策略，確保在技術(shù)賦能的同時(shí)守住安全底線。
 
　　聯(lián)合展示：攜手CEC與施耐德，呈現(xiàn)AI安全解決方案
 
　　在本屆世界人工智能大會(huì)期間，奇安信還通過與中國電子（CEC）和施耐德電氣的合作展臺(tái)，集中展示了其在AI安全領(lǐng)域的前沿技術(shù)與產(chǎn)品。
 
　　圖
 
　　在CEC中國電子展臺(tái)，奇安信重點(diǎn)展出了“奇安信大模型安全空間”。該方案基于數(shù)百PB級(jí)的外部與內(nèi)部數(shù)據(jù)（包括開源網(wǎng)站、威脅情報(bào)、產(chǎn)品文檔等），構(gòu)建了覆蓋大模型全生命周期的安全防護(hù)體系，能夠?qū)崿F(xiàn)對(duì)數(shù)據(jù)投毒、提示詞注入、越獄攻擊等新型威脅的精準(zhǔn)識(shí)別與快速響應(yīng)。
 
　　在施耐德電氣展臺(tái)，奇安信以“AI生態(tài)伙伴”身份，展示了其自主研發(fā)的QAX-GPT安全機(jī)器人。該智能體可與現(xiàn)有安全產(chǎn)品深度集成，孵化出多個(gè)細(xì)分領(lǐng)域的專家機(jī)器人，包括：AI+SOC 安全運(yùn)營(yíng),AI+EDR 終端運(yùn)營(yíng),AI+HIDS 主機(jī)安全運(yùn)營(yíng)等領(lǐng)域?，F(xiàn)場(chǎng)觀眾駐足交流，對(duì)奇安信在AI安全領(lǐng)域的技術(shù)積累表現(xiàn)出濃厚興趣。
 
　　此外，奇安信受邀參與《中國人工智能安全承諾框架》發(fā)布環(huán)節(jié)?！吨袊斯ぶ悄馨踩兄Z框架》由中國信通院牽頭，在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA)《人工智能安全承諾》基礎(chǔ)上，新增了加強(qiáng)人工智能安全治理國際合作、防范前沿人工智能安全風(fēng)險(xiǎn)等內(nèi)容，體現(xiàn)了中國產(chǎn)業(yè)界愿與全球各方緊密攜手，共促人工智能向善發(fā)展的堅(jiān)定決心和開放態(tài)度。
 
　　隨著AI技術(shù)加速融入經(jīng)濟(jì)社會(huì)各領(lǐng)域，安全問題日益凸顯。奇安信將繼續(xù)發(fā)揮網(wǎng)絡(luò)安全專業(yè)優(yōu)勢(shì)，積極參與AI安全標(biāo)準(zhǔn)制定與實(shí)踐探索，為構(gòu)建安全、可信、可持續(xù)的AI發(fā)展環(huán)境貢獻(xiàn)力量。