著AI與機器學習技術在規模、複雜度以及對商業價值的影響力持續提升，企業必須在以下看似衝突的目標間取得平衡：一方面透過高度敏感資料，取得洞察方向，並加以運用；另一方面則須維持高度的機密性、完整性與合規性。AI運算系統在醫療、金融、製造、公共部門等產業，開始運行和處理更多受法規監管的資訊、專有智慧財產權，以及涉及多年投入與競爭差異化的模型。
同時，AI基礎設施的設置也更加分散化。訓練與推論運行位置可能包括地端資料中心、共享託管機房、公有雲與邊緣環境。這種架構使攻擊面範圍增加，並對長久以來關於運算的假設帶來考驗。傳統的安全機制，已不足以應對最新的威脅。加密資料須在記憶體中解密才能進行後續的處理作業，這使AI工作負載中最關鍵的運行程序暴露在風險之中。而機密運算（Confidential Computing）正逐漸興起，成為填補此缺口的關鍵技術，並開啟安全與機密AI的新時代。
傳統安全模型框架，面臨AI時代新挑戰
多年來，企業仰賴加密、存取控管與邊界防禦來保護其數位資產。這些機制雖依舊重要，但它們的設計卻是基於運算設施營運商和系統軟體被預設信任為前提。現今的多租戶、混合環境，使企業無法承擔此前提所帶來的風險，而AI工作負載則進一步使風險放大。
模型訓練的過程可能使用大量敏感資料，而模型本身也內含可能被網路罪犯竊取、逆向解析或操控的重要洞察資訊。生成式AI技術也帶來額外的風險，包括提示詞注入攻擊（Prompt Injection）、資料毒化攻擊（Data Poisoning），以及因模型生成內容造成的非預期性資訊外洩。即便是以系統管理員、虛擬機器管理程式或調度層（Orchestration Layer）的高等級存取權限來運行，只要資料在處理過程中是可見狀態，就可能產生曝露風險。
台灣國家資通安全戰略2025中，特別強調須建立相關制度與法規架構，促進AI技術的安全部署。作為半導體、製造業與AI領域的全球領導者，台灣正積極推動基於硬體為核心的安全技術發展與導入。
安全與隱私疑慮已成為企業導入AI的主要障礙之一，許多組織從而限制工作負載的執行環境或使用的資料集。這不僅抑制著技術創新速度，也降低了AI所提供的優勢。
機密運算打造硬體級防護，建立信任安全標準
機密運算的發展，改變了運算環境的信任機制。除了企業的自行控管與軟體隔離，機密運算也在硬體層面，對處理中的資料進行保護。其關鍵技術是基於硬體隔離式的執行環境，通常實作在虛擬機器層級，以在記憶體內加密資料，並與主機作業系統、虛擬機器管理程式（Hypervisor）、容器平台（Container Platform）與其他工作負載進行隔離。即使是高權限的軟體元件，也無法直接存取保護環境中的資訊。
另一項重要的元素是驗證（Attestation）。機密運算平台可提供加密認證，確保工作負載在真實、未遭竄改，並具備既定安全屬性的環境中運行。只有經過此驗證程序，敏感資料才能被存取並處理，實現「先驗證、再信任（Verify before Trust）」的模式，可適用於共享式及第三方基礎設施。
貫穿訓練與推論，為AI生命週期建構全方位防護
機密運算適用於多種工作負載，並可為AI應用帶來相當大的優勢。此技術能在程序運行期間保護資料與模型，協助企業避開危及基礎設施的安全漏洞，順利執行敏感AI工作負載。
模型訓練過程中，機密運算可確保專有資料集與中間模型狀態（Intermediate Model State）受保護；在推論階段，機密運算能降低輸入與輸出資料外洩或被竄改的風險——這對涉及機密或受監管資訊的AI服務至關重要。任何在容器內的可信賴AI模型，都可選擇要不要在機密運算模式下執行。而在機密運算模式內，資料能獲得完整保護以維護企業、主權與受監管環境的安全。
近期平台架構的發展，已能將這類保護機制從CPU擴展至受加速器驅動的工作負載。處理器與GPU之間的安全整合，可確保加密資料在AI流程中受到保護，並在不損害機密性質的前提下，支援高吞吐量與低延遲的工作負載，使企業不再需要在敏感AI工作負載的保護和現代模型所需規模之間做出取捨。
建立可信任的AI架構，開啓新型合作模式
除了降低風險，機密運算也對信任與合規性帶來更廣泛的影響。全球監管框架愈來愈重視資料保護、主權，以及可驗證的控管機制。保護使用中的資料，並透過驗證機制證明其安全性，可強化組織的合規性，並簡化稽核流程。台灣自2026年1月實施的《人工智慧基本法》，即建立了AI應用的驗證、可追溯性與責任機制，並要求可驗證的使用中資料保護。因此，企業必須能提供完整紀錄，證明資料在整個處理過程皆受到保護。
機密運算同時也促成新型協作模式。企業可對資訊的使用維持高度保證的前提下，與合作夥伴、客戶或服務供應商共享資料或模型。這將開啟隱私保護式AI應用場景，如協同模型訓練、跨組織安全資料分析，以及處理高度敏感輸入資料的推論服務。
實現機密AI規模化藍圖，建置安全運算環境
將機密運算導入AI，並非靠單一技術即可實現，而是需要涵蓋硬體性能、軟體生態系、調度機制與營運流程的整體性策略。同時，企業組織也須考量效能、工作負載設計與生命週期管理。
產業趨勢強勁，對機密運算的支援也正持續擴大，並橫跨不同處理器架構、虛擬化平台與加速器。標準化方案與生態系合作，正確保機密AI能夠一致地部署在地端、雲端及邊緣環境中。隨著技術逐步成熟，機密運算有望成為敏感AI工作負載的預設標準，如同現今靜態資料與傳輸資料加密的普及程度一樣。
機密運算提供了一條清晰的發展路徑。透過硬體強制隔離與可驗證的執行環境來保護使用中的資料，企業能更有信心地擴大AI應用規模。