【ZiDongHua 之“品牌自定位”收錄關(guān)鍵詞：奇安信 人工智能 大模型 機器人 】
 
　　奇安信亮相世界人工智能大會：共話AI安全生態(tài)，展示大模型防護成果
 
　　7月26日，2025世界人工智能大會（WAIC）在上海世博中心盛大啟幕。今年大會匯聚了來自70多個國家和地區(qū)、1500余位頂尖專家，其中包括12位圖靈獎、諾貝爾獎等頂獎得主，80余位中外院士和多個國際頂尖實驗室代表，超過800家企業(yè)，全面展現(xiàn)大模型、多模態(tài)與具身智能的發(fā)展新趨勢和最新成果。
 
　　奇安信集團副總裁鄔怡受邀出席“AI與人類的和諧未來”主題圓桌論壇，圍繞AI安全風(fēng)險與圖靈獎得主、清華大學(xué)人工智能學(xué)院院長姚期智，美國加州大學(xué)伯克利分校教授斯圖爾特•羅素，中國信息通信研究院院長、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟秘書長余曉暉，英國皇家工程院院士、約克大學(xué)教授約翰•麥克德米，清華大學(xué)交叉信息研究院副院長、教授徐葳展開討論。展會期間，奇安信通過與中國電子（CEC）、施耐德電氣等合作伙伴的聯(lián)合展示，全面呈現(xiàn)了公司在大模型安全、智能安全運營等領(lǐng)域的最新成果。
 
　　奇安信副總裁鄔怡：AI安全不能“裸奔”，需從系統(tǒng)視角構(gòu)建防御閉環(huán)
 
　　奇安信副總裁鄔怡提出：AI安全不僅僅是模型本身的安全，更應(yīng)從系統(tǒng)層級出發(fā)，關(guān)注AI生態(tài)系統(tǒng)中各類環(huán)節(jié)的協(xié)同安全。他認(rèn)為，就像操作系統(tǒng)的安全高度依賴其周邊系統(tǒng)一樣，大語言模型的安全也受到數(shù)據(jù)、插件、工具鏈等外圍要素的深刻影響。
 
　　
 
　　他指出，當(dāng)前AI正向具備決策能力的“Agentic AI”演進，并以“數(shù)字員工”的形式深度參與業(yè)務(wù)流程。然而，正如人也可能誤判或被誤導(dǎo)，AI同樣可能遭受攻擊并作出有害決策。他以攻防實戰(zhàn)經(jīng)驗為例指出：目前商用大模型普遍存在被注入攻擊的漏洞，攻擊方式也日趨復(fù)雜，模仿人類欺騙手法，讓模型在不知不覺中輸出違背其“安全原則”的內(nèi)容。
 
　　
 
　　他警示說，AI一旦深度介入關(guān)鍵生產(chǎn)流程，其背后的網(wǎng)絡(luò)攻擊將可能穿透虛擬邊界，直接影響現(xiàn)實物理世界的安全。這對關(guān)鍵基礎(chǔ)設(shè)施而言，是極具破壞性的潛在威脅。他主張要將AI視作“具有人格角色”的系統(tǒng)參與者，引入工業(yè)化流程中的“雙人操作、交叉驗證”等冗余機制來應(yīng)對AI的不確定性。
 
　　鄔怡強調(diào)，AI技術(shù)演進不可逆，不能因風(fēng)險止步不前，但必須在節(jié)奏上保持審慎，特別是在安全機制尚未成熟的前提下，防止盲目推廣。他呼吁政府、產(chǎn)業(yè)和科研界攜手制定更系統(tǒng)化的AI安全標(biāo)準(zhǔn)和落地策略，確保在技術(shù)賦能的同時守住安全底線。
 
　　聯(lián)合展示：攜手CEC與施耐德，呈現(xiàn)AI安全解決方案
 
　　在本屆世界人工智能大會期間，奇安信還通過與中國電子（CEC）和施耐德電氣的合作展臺，集中展示了其在AI安全領(lǐng)域的前沿技術(shù)與產(chǎn)品。
 
　　圖
 
　　在CEC中國電子展臺，奇安信重點展出了“奇安信大模型安全空間”。該方案基于數(shù)百PB級的外部與內(nèi)部數(shù)據(jù)（包括開源網(wǎng)站、威脅情報、產(chǎn)品文檔等），構(gòu)建了覆蓋大模型全生命周期的安全防護體系，能夠?qū)崿F(xiàn)對數(shù)據(jù)投毒、提示詞注入、越獄攻擊等新型威脅的精準(zhǔn)識別與快速響應(yīng)。
 
　　在施耐德電氣展臺，奇安信以“AI生態(tài)伙伴”身份，展示了其自主研發(fā)的QAX-GPT安全機器人。該智能體可與現(xiàn)有安全產(chǎn)品深度集成，孵化出多個細(xì)分領(lǐng)域的專家機器人，包括：AI+SOC 安全運營,AI+EDR 終端運營,AI+HIDS 主機安全運營等領(lǐng)域?，F(xiàn)場觀眾駐足交流，對奇安信在AI安全領(lǐng)域的技術(shù)積累表現(xiàn)出濃厚興趣。
 
　　此外，奇安信受邀參與《中國人工智能安全承諾框架》發(fā)布環(huán)節(jié)?！吨袊斯ぶ悄馨踩兄Z框架》由中國信通院牽頭，在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA)《人工智能安全承諾》基礎(chǔ)上，新增了加強人工智能安全治理國際合作、防范前沿人工智能安全風(fēng)險等內(nèi)容，體現(xiàn)了中國產(chǎn)業(yè)界愿與全球各方緊密攜手，共促人工智能向善發(fā)展的堅定決心和開放態(tài)度。
 
　　隨著AI技術(shù)加速融入經(jīng)濟社會各領(lǐng)域，安全問題日益凸顯。奇安信將繼續(xù)發(fā)揮網(wǎng)絡(luò)安全專業(yè)優(yōu)勢，積極參與AI安全標(biāo)準(zhǔn)制定與實踐探索，為構(gòu)建安全、可信、可持續(xù)的AI發(fā)展環(huán)境貢獻(xiàn)力量。