NVIDIA Open Agent Safety Platform:把 AI agent 安全監控推到 runtime 及硬件層

NVIDIA 9 月 28 日介紹 Open Agent Safety Platform,將 OpenShell runtime 與 BlueField-4 上的 Sentry 硬件監控組合,主張以獨立、runtime 及硬件層控制長時間運行的 AI agent。

NVIDIA 於 2026 年 9 月 28 日介紹 Open Agent Safety Platform,一套把 AI agent 的安全控制由 application layer 延伸到 runtime 和硬件的參考架構。它把 NVIDIA OpenShell 放在 Vera CPU 的 workload 旁邊,再讓 NVIDIA Sentry 在 BlueField-4 DPU 上做獨立監控與 enforcement,目標是讓 agent 即使偏離原本任務,也不能只靠自己決定下一步。

NVIDIA 提出五個設計原則:policy 要可驗證、enforcement 要在 agent 之外、控制模型的路徑、按可觀察程度調整 agent 權限,以及由模型公司、企業和硬件供應商共同承擔責任。這個方向與單純把安全規則寫入 system prompt 不同,因為主要控制點位於 agent 難以修改的 runtime 或 infrastructure 層。

架構分成三層。Application 包括模型、harness、工具和資料;runtime 將 workload 投射到工作站、edge 或 data center,並提供持續監控及 policy enforcement;infrastructure 則包括網絡、資料庫、檔案系統、通用運算和安全監控硬件。OpenShell 負責 sandbox、身份、權限與政策,Sentry 則在 BlueField-4 上提供獨立的 activity record 和即時控制。

NVIDIA 表示,OpenShell 可以把 agent 的 policy 轉成可驗證邊界,管理它可以存取哪些檔案、網絡、工具、process 和 credential。Sentry 以 NVIDIA DOCA 將 agent interaction、policy decision、工具和資料存取串成 contextual record,協助檢查 drift、追蹤 delegated authority,及在需要時介入。這些是 NVIDIA 的架構主張,仍要以實際硬件、driver、身份系統和 policy 維護成本驗證。

對 Vera Rubin POD 的部署,NVIDIA 把 BlueField-4 放在 node 通往 model 的路徑上,讓它成為 agent 難以繞過的 out-of-band 觀察點。文章亦表示平台兼容其他硬件系統,但並沒有在這篇文章提供獨立 benchmark 或完整的 production failure data;因此不應把 reference design 直接當成所有企業都能即時採用的產品方案。

這個方向的實際價值,在於把「agent 不應該做甚麼」變成可以測試、記錄和阻止的 runtime policy。不過硬件監控不會自動解決錯誤 policy、過度授權、資料分類、供應鏈風險或人工審批問題。企業仍需要 threat model、最小權限、可回滾設計、audit retention 和 end-to-end 測試,並清楚定義誰可以修改或批准 policy。

MODULE.002 //

更多 Insights

分享網站、AI automation、數碼營銷、AI news 和 VMTS 公司新聞。