NVIDIA AI 安全棧為先進的代理式系統(tǒng)提供信任、控制和管理支持。

代理式 AI 正在重塑網(wǎng)絡安全格局，它帶來了全新機遇，需要我們重新審視如何保障 AI 安全，同時為應對挑戰(zhàn)提供關鍵路徑。

與傳統(tǒng)的 AI 系統(tǒng)不同，AI 智能體可以采取自主行動，與工具、運行環(huán)境、其他智能體和敏感數(shù)據(jù)進行交互。這為防御者創(chuàng)造新機會的同時，也帶來了新的風險。當前企業(yè)需要采取雙重策略：既要借助代理式 AI 構建防御體系，又要建立針對代理式 AI 的防護機制。

基于代理式 AI 建立網(wǎng)絡安全防御體系

由于人才短缺和警報數(shù)量不斷增加，網(wǎng)絡安全團隊的負擔越來越重。代理式 AI 為強化威脅檢測、響應機制和 AI 的安全防護提供了新的途徑，這就需要網(wǎng)絡安全生態(tài)系統(tǒng)實現(xiàn)基礎架構的革新性改變。

代理式 AI 系統(tǒng)具備自主感知、邏輯推理和執(zhí)行能力，可以獨立解決復雜的問題。它們還可以作為網(wǎng)絡專家的智能協(xié)作者，保護數(shù)字資產(chǎn)，降低企業(yè)環(huán)境中的風險并提高安全運營中心的效率。這可以釋放網(wǎng)絡安全團隊的潛能，讓他們專注于高影響力的決策，擴展專業(yè)知識，同時有效緩解安全團隊員工的倦怠感。

以漏洞響應為例，AI 智能體可以在數(shù)秒內(nèi)偵察到新的常見漏洞或暴露的風險，從而縮短應對軟件安全漏洞所需的時間。AI 智能體可以搜索外部資源、評估環(huán)境并對相應結果進行總結和排序，以便人類分析師能夠迅速采取明智的行動。

德勤等領先企業(yè)正在采用NVIDIA AI Blueprint進行漏洞分析，并通過NVIDIA NIM和NVIDIA Morpheus來幫助他們的客戶加速軟件補丁部署和漏洞管理。亞馬遜云科技還與 NVIDIA 協(xié)作，使用 NVIDIA AI Blueprint 構建開源參考架構，在亞馬遜云科技的云環(huán)境中進行軟件安全修補。

AI 智能體還可以改進安全警報分流。大多數(shù)安全運營中心每天都要面對大量的警報，而從噪音中分揀關鍵信號的過程緩慢、重復，并且依賴于機構知識和經(jīng)驗。

包括 CrowdStrike 和 Trend Micro 在內(nèi)的領先安全提供商正在使用 NVIDIA AI 軟件來推進網(wǎng)絡安全領域的代理式 AI。CrowdStrike 的 Charlotte AI Detection Triage 可將檢測分類速度翻倍，而計算量減少 50%，降低了警報疲勞并且優(yōu)化了安全運營中心的效率。

代理系統(tǒng)可幫助實時加快整個工作流，分析警報、從工具中收集上下文、對根本原因進行邏輯推理，并根據(jù)洞察采取行動。

它們甚至可以從經(jīng)驗豐富的分析師那里獲取專業(yè)知識，并將其轉(zhuǎn)化為行動，從而幫助新晉分析師上崗。

企業(yè)可以使用AI-Q NVIDIA Blueprint（用于將 AI 智能體連接到企業(yè)數(shù)據(jù)）和NVIDIA Agent Intelligence 工具包（一個可加速 AI 智能體開發(fā)并優(yōu)化工作流的開源庫）來構建警報分流智能體。

保護代理式 AI 應用

代理式 AI 系統(tǒng)不僅能分析信息，還能對其進行邏輯推理并采取行動。這就帶來了新的安全挑戰(zhàn)：智能體可能會訪問工具、生成觸發(fā)下游效應的輸出或?qū)崟r與敏感數(shù)據(jù)交互。為了確保它們的行為安全且可預測，企業(yè)需要部署前測試和運行時控制。

紅色團隊 (Red teaming) 和測試有助于在投產(chǎn)前發(fā)現(xiàn)智能體在理解提示、使用工具或處理意外輸入方面的弱點。這還包括探查智能體在遵循約束、從故障中恢復，以及防御操縱性或?qū)剐怨舴矫娴哪芰Α?/p>

大語言模型漏洞掃描器 Garak 可通過模擬對抗行為（如提示注入、工具濫用和邏輯推理錯誤）對基于大語言模型的智能體進行自動測試。

運行時護欄提供了一種執(zhí)行策略邊界、限制不安全行為，以及使智能體輸出與企業(yè)目標迅速保持一致的方法。NVIDIA NeMo Guardrails可幫助開發(fā)人員輕松定義、部署和快速更新規(guī)則，管理 AI 智能體的言行。這種低成本、低投入的適應性可確保在檢測到問題時做出快速有效的響應，保持智能體行為的一致性以及在生產(chǎn)中的安全性。

Amdocs、Cerence AI 、Palo Alto Networks 等領先企業(yè)正在使用 NVIDIA NeMo Guardrails 為其客戶提供可信任的代理式體驗。

運行時保護 (Runtime protections) 有助于在執(zhí)行過程中保護敏感數(shù)據(jù)和智能體行為，確保操作的安全性和可信度。NVIDIA 機密計算 (NVIDIA Confidential Computing)可以在運行時保護正在處理的數(shù)據(jù)，也稱為保護“使用中的數(shù)據(jù)”，這降低了各種規(guī)模的 AI 模型在訓練和推理過程中數(shù)據(jù)暴露的風險。

NVIDIA 機密計算由全球主要服務提供商提供，包括谷歌云和微軟 Azure，其他云服務提供商也將陸續(xù)提供。

任何代理式 AI 應用的基礎都是一套用于構建推理堆棧的軟件工具、庫和服務。NVIDIA AI Enterprise軟件平臺采用軟件生命周期流程，在保持應用編程接口 (API) 穩(wěn)定性的同時，還能在軟件的整個生命周期內(nèi)解決漏洞問題，包括定期進行代碼掃描以及及時發(fā)布安全補丁或緩解措施。

供應鏈中 AI 組件的真實性和完整性對于擴展代理式 AI 系統(tǒng)的信任度至關重要。NVIDIA AI Enterprise 軟件棧包含容器簽名、模型簽名和軟件物料清單，以便對這些組件進行驗證。

這些技術中的每一項都提供了多層級的安全性防護，以保護從本地部署到云端等多種部署環(huán)境中的關鍵數(shù)據(jù)和寶貴模型。

保障代理基礎設施安全

隨著代理式 AI 系統(tǒng)自主化程度逐漸提升并深度融入企業(yè)工作流，其底層基礎設施成為安全問題的核心要素。無論是部署在數(shù)據(jù)中心、邊緣還是生產(chǎn)車間，代理式 AI 都需要設計支持隔離機制、可視化和控制能力的基礎設施。

從設計層面看，代理式系統(tǒng)的運行具有高度自主性，能夠執(zhí)行具有重大影響力的操作，這些操作既可能帶來益處，也可能引發(fā)潛在風險。這種自主性要求保護運行時工作負載、實施操作監(jiān)控并嚴格執(zhí)行零信任原則，以此有效保障這些系統(tǒng)的安全。

NVIDIA BlueField DPU與NVIDIA DOCA Argus相結合，提供了一個可以使應用全面、實時地了解智能體工作負載行為的框架，并通過高級內(nèi)存取證技術精準識別威脅。將安全控制直接部署到 BlueField DPU 而非服務器 CPU 上，可進一步隔離基礎設施層面的威脅，大幅縮小潛在攻擊的波及范圍，增強全面的、無處不在的安全架構。

集成商還使用 NVIDIA 機密計算來加強代理式基礎設施的安全基礎。例如，EQTYLab 開發(fā)了一種新的加密證書系統(tǒng)，該系統(tǒng)提供了首個芯片級治理功能，可確保 AI 智能體在運行時合規(guī)。EQTYLab將作為 RSA 創(chuàng)新沙盒 (RSA Innovation Sandbox) 大賽十大入圍者之一在 RSA 大會上亮相。

NVIDIA Hopper和NVIDIA Blackwell GPU支持 NVIDIA 機密計算，因此當用戶從單 GPU 轉(zhuǎn)向多 GPU 時，隔離技術可以擴展到機密虛擬機。

安全 AI 由 Protected PCIe (PPCIe) 提供，以 NVIDIA 機密計算為基礎，允許客戶將工作負載從單個 GPU 擴展到 8 個 GPU，這使企業(yè)能夠在滿足其代理式 AI 需求的同時，以更高效的方式提供安全保護。

這些基礎設施組件支持本地和遠程驗證，使客戶能夠在部署敏感工作負載之前驗證平臺的完整性。

這些安全功能在像 AI 工廠一樣的環(huán)境中尤為重要。在這些環(huán)境中，代理式系統(tǒng)開始為自動化、監(jiān)測和實際決策提供支持。Cisco 通過集成 NVIDIA BlueField DPU，開創(chuàng)了安全的 AI 基礎設施，在 NVIDIA 的助力下構建了“Cisco 安全 AI 工廠”，旨在為企業(yè)提供可擴展、安全和高效的 AI 部署。

將代理式 AI 擴展到網(wǎng)絡物理系統(tǒng)會增加風險，因為安全漏洞會直接影響正常運行時間、安全性和物理操作的完整性。Armis、Check Point、CrowdStrike、德勤、Forescout、Nozomi Networks 和 World Wide Technology 等領先的合作伙伴正在整合 NVIDIA 的全棧網(wǎng)絡安全 AI 技術，幫助能源、公共事業(yè)、制造設施等多個行業(yè)的客戶加強關鍵基礎設施，抵御網(wǎng)絡威脅。

構建可信的 AI 行動

如今，每個企業(yè)都需要確保其網(wǎng)絡安全投資與 AI 相結合，以保護未來的工作流安全。每個工作負載都需要全面加速，最終使防御者獲得與 AI 節(jié)奏同步的工具。

NVIDIA 正在將 AI 和安全能力融合至技術基座，為生態(tài)系統(tǒng)合作伙伴提供由 AI 驅(qū)動的網(wǎng)絡安全解決方案。這個全新的生態(tài)系統(tǒng)將幫助企業(yè)構建安全、可擴展的代理式 AI 系統(tǒng)。