NVIDIA 發起 Open Secure AI Alliance:AI agent 安全由模型延伸到整個 stack

NVIDIA 於 7 月 27 日宣布 Open Secure AI Alliance,聚焦開放模型、agent harness、身份、隔離、掃描與審計;聯盟的工具和安全成效仍需逐項驗證。

NVIDIA 於 2026 年 7 月 27 日宣布成立 Open Secure AI Alliance,與雲端、資安、企業軟件、開源基金會及 AI 研究團隊一起建立和分享開放的 AI 安全工具。NVIDIA 列出的首批參與者包括 Microsoft、Cisco、CrowdStrike、Hugging Face、IBM、LangChain、Linux Foundation、Salesforce、ServiceNow、SpaceXAI 等。這是聯盟的成立公告,不是單一模型發布。

聯盟的核心主張,是 AI 防守能力不應只存在於少數不可檢查的封閉系統。NVIDIA 認為,開放模型和開放 harness 可以讓防守者檢查、調整和在自己的基礎設施上運行安全工具,並減少對單一供應商的依賴。這是 NVIDIA 及參與者的政策和工程方向,並不等於開放模型天然更安全。

公告把安全範圍由 model weights 推到整個 agent stack,包括 identity、permissions、harnesses、guardrails、logs 和 evaluation。聯盟列出的工作方向包括身份與隔離、safe model formats、多模型掃描、漏洞修補、secure coding workflow,以及對漏洞的公開披露。這種範圍比較接近實際部署要求,因為 agent 失控不一定源自模型本身。

NVIDIA 同時公布開源的 NVIDIA Labs Object-Oriented Agent(NOOA)研究框架,聲稱可協助 agent harness 把行為變得更容易測試、追蹤、審計和治理。其他參與者也提出各自的建設,例如 HPE 的 SPIFFE/SPIRE 身份框架、Hugging Face 捐出 Safetensors、IBM 和 Red Hat 的 Lightwell,以及 Microsoft 的 MDASH 多模型 agent 掃描 harness。這些項目各自有不同成熟度和使用條件,不能只按聯盟名單視為完成安全認證。

公告引用 Hugging Face 一宗資安事件作為例子,並稱團隊使用自有基礎設施上的 GLM 5.2 分析超過 17,000 個 actions 以協助控制入侵。這是 NVIDIA 公告中的供應商敘述,文章沒有把它當成獨立驗證的成效數據。類似案例在採用前仍要核對事件報告、模型版本、輸入資料、人工介入和實際錯誤率。

對企業來說,聯盟最實用的訊號不是「開放」兩個字,而是把 agent 安全拆成可檢查的控制面:誰可以代表 agent 登入、哪些工具可被呼叫、工作是否在隔離環境執行、每次操作是否留有 log,以及發現問題後能否停用、修補和回溯。這些控制要配合自己的資料敏感度和 workflow 做測試。

Open Secure AI Alliance 反映 AI 安全競爭正在由單一 model guardrail,轉向更完整的 operational stack。開放工具可以擴大防守者的檢查和修補能力,但治理、權限、評估和事故回應仍然需要清晰的責任人和可驗證的流程。

MODULE.002 //

更多 Insights

分享網站、AI automation、數碼營銷、AI news 和 VMTS 公司新聞。