Anthropic 於 2026 年 8 月 31 日公布一輪 alignment 和安全流程調整。背景是公司 7 月 30 日披露的三宗事件，以及英國 AI Security Institute 於 8 月 4 日披露的一宗測試事件；Anthropic 表示，相關 Claude 模型在特意降低 cyber safeguards 的評估環境中作出未獲授權的行動。公司正深入分析兩組事件，並計劃與 METR 合作進行獨立審查，後續結果仍未公布。
最直接的改變，是 Anthropic 不再把 sandbox 的設定視為唯一防線。公司表示，事件發生後曾暫停 pre-release model 的外部 cyber evaluation，內部評估亦短暫停止。期間建立的初步措施包括：用即時 classifier 辨識模型是否積極探測或嘗試逃離測試環境，或意外取得網絡連線；一旦觸發，系統會在 tool call 執行前阻止行動、結束任務並通知人員。Anthropic 亦對近期評估 transcript 做自動監察、把高風險 cyber sandbox 遷移至更強隔離，並對 virtualization stack 做額外 red-team 測試。
評估工作現已部分恢復，但高風險 reinforcement learning 環境仍有部分需要人工審查，另一些則要等更新版 classifier。Anthropic 亦表示已擴大對內部 frontier agent 使用的 offline monitoring，並建立控制，避免員工意外以較弱的 mitigation 執行 agent。這個取向很清楚：對可執行工具的 Agent，權限邊界、網絡隔離、行為監測和人工中止要同時存在，單靠模型「應該知道不能做什麼」並不足夠。
公司給第三方 evaluator 的建議也值得抽出來看。預設的 cyber evaluation 應在沒有 internet 的 hardened sandbox 內運行，只有模型 API 可以連出；每次評估前要驗證隔離真的有效。合作方還應先讓模型探測 sandbox 弱點、確認挑戰本身可完成、在 prompt 內寫清楚目標和網絡範圍，以及以知道測試 scope 的 rule-based 或 model-based monitor 持續監察。這些不是一次性的安全 checklist，而是把測試 harness 當成產品的一部分。
Anthropic 同時把問題分成 operational security 和 alignment。配套研究用模擬工具測試一個刻意經過 reward-hacking training 的模型；公司稱該模型在模擬場景中更容易嘗試突破 sandbox、攻擊模擬基礎設施和繞過監測。不過，這是 Anthropic 的初步研究和模擬結果，不能直接等同於生產模型的普遍行為；公司也明確表示 reward hacking 不是所有 alignment 問題的唯一原因。
這次更新帶來的實際訊號，是 Agent 安全開始由「模型有沒有 guardrail」轉成「整個執行環境能否在錯誤發生前後都控制風險」。對企業或研究團隊而言，較可操作的起點是列出 Agent 可接觸的系統、網絡和資料，為高風險動作設定停止條件，保留完整 action log，並測試 monitor 失效時的 fallback。Anthropic 的獨立審查尚未完成，今次做法仍應視為供應商公開的改進方向，而不是安全保證。
