微軟承認Win11新AI功能存安全風險 仍堅持推行

盡管微軟近期公開承認，微軟其計劃植入Windows 11的承認存安“AI代理”(AI Agent)存在幻覺、行為不可預測及易受新型攻擊等風險，新險仍但這家科技巨頭仍將堅定不移地推進其“代理化操作系統”(Agentic OS)的全風愿景。這標志著Windows 11正成為微軟高風險AI戰略的堅持核心試驗場。

自2025年10月起，推行微軟宣布要讓“每臺Win11 PC都成為AI PC”，微軟并推出了一系列深度集成。承認存安其核心是新險仍讓用戶通過自然語言指令，指揮AI代理自動操作電腦，全風例如處理文件、堅持操作應用、推行執行多步驟任務。微軟任務欄的承認存安“詢問Copilot”新界面將成為調用這些代理的神經中樞。

微軟在官方支持文檔中罕見坦承，新險仍這些代理“偶爾可能出現幻覺并產生意外輸出”。最大的安全威脅之一是一種名為“跨提示注入”(XPIA)的新型攻擊。攻擊者可將惡意指令隱藏于文檔或UI元素中，誘導AI代理背離原任務，執行如竊取敏感數據、安裝惡意軟件等危險操作。

為管控風險，微軟設計了名為“代理工作空間”的核心安全機制。每個AI代理將在系統中擁有一個獨立的受限用戶賬戶和隔離的虛擬桌面環境。其權限被嚴格限制在用戶“已知文件夾”內，并通過“模型上下文協議”與系統應用間接交互，所有操作均被詳細審計日志記錄。目前，這些功能被標記為“實驗性代理功能”，默認關閉且需用戶手動開啟。

微軟之所以甘冒風險，源于激烈的市場競爭壓力。蘋果正大力推廣集成Apple Intelligence的新款MacBook，谷歌也計劃推出Aluminium OS進入PC市場。若Windows在AI浪潮中停滯不前，將面臨平臺吸引力下降的風險。因此，盡管存在爭議，將Windows重塑為“AI的畫布”對微軟而言已是不可回頭的戰略選擇。