當多個團隊、模型服務與 AI 應用共用同一套 Kubernetes 與 GPU 基礎架構時，光靠帳號與權限管理，並不足以限制底層工作負載之間的網路連線。

例如：

  • 哪些網段可以連入 AI 工作負載？
  • 哪些網段應排除，不允許連入？
  • AI 工作負載可以向哪些網段建立連線？
  • 哪些目的網段應限制存取？
  • 同一個 Project 中，哪些容器需要套用這項 Network Policy？

如果缺乏適當的網路存取控制，工作負載可能存取非必要的服務或網路資源，增加未授權存取、資料外洩與橫向移動（Lateral Movement）等風險。

AI-Stack 提供 Network Policy 管理功能，讓使用者可以直接在平台設定網路政策，分別控制連入與連出流量，並指定政策要套用至 Project 中的哪些容器。

網路政策主要包含：

  • 連入規則(Ingress)：設定套用網段與排除網段
  • 連出規則(Egress)：設定套用網段與排除網段
  • 套用對象：指定 Network Policy 套用至 Project 中的哪些容器

透過更細緻的網路流量控制，企業可以在共享 AI 基礎架構中建立更清楚的工作負載安全邊界。

Network Policy 可以控制什麼？

AI-Stack Network Policy 主要用於控制工作負載的網路通訊範圍，包含以下幾個面向：

1. 連入流量控制

設定哪些來源網段適用於指定工作負載，並可透過套用網段與排除網段定義實際的連入範圍。

2. 連出流量控制

設定工作負載向外連線時適用的網段範圍，限制容器存取非必要的內部網路或其他資源。

3. 容器級 Policy 套用

Network Policy 可以指定套用至 Project 中的特定容器，讓不同工作負載依照實際需求使用不同的網路規則。

4. Project 級網路隔離

透過網路強化隔離模式，由 AI-Stack 系統統一限制不同 Project 之間的容器通訊，建立跨專案網路安全邊界。

AI-Stack 提供兩種 Network Policy 管理模式

不同企業與 AI 專案，對網路安全的需求並不相同。

有些情境需要讓使用者依照實際架構，自行設定工作負載的連入與連出規則；有些環境則要求更嚴格的多專案隔離，不希望使用者自行調整安全邊界。

因此，AI-Stack 提供兩種 Network Policy 管理模式：

  • 標準模式
  • 網路強化隔離模式

兩種模式分別對應「彈性控制」與「強制隔離」兩種不同的網路治理需求。

標準模式：依工作負載需求彈性設定網路政策

標準模式適合需要依照不同 AI Application、模型服務或企業網路架構，自行定義存取範圍的情境。

使用者可以在 AI-Stack 平台上建立 Network Policy，設定：

連入規則

控制進入指定工作負載的網路流量範圍，可設定：

  • 套用網段
  • 排除網段

透過套用與排除網段，可以依照實際需求定義哪些來源網路屬於政策控制範圍。

連出規則

控制指定工作負載向外建立連線時的網路範圍，可設定：

  • 套用網段
  • 排除網段

例如某個 RAG Application 只需要存取特定企業內部網段，就可以依照實際架構設定相對應的連出政策，降低不必要的網路存取範圍。

指定 Policy 套用容器

除了設定網路範圍之外，使用者也可以選擇 Network Policy 要套用至 Project 中的哪些容器。因此，即使在同一個 Project 中，不同工作負載也可以依照各自用途套用不同的網路政策。

例如：

  • Model Server 套用較嚴格的連入政策
  • RAG Application 開放必要的企業內部網段
  • Web Application 使用另一組連入、連出規則

透過標準模式，使用者可以依照 AI 工作負載的角色與實際業務需求，建立更細緻的網路存取控制。

網路強化隔離：由系統統一強制執行專案間隔離

對於安全要求更高的共享 AI 基礎架構，單純提供可自行設定的 Network Policy，可能仍不足以確保不同 Project 之間始終維持一致的網路安全邊界。因此，AI-Stack 另外提供 網路強化隔離模式。

與標準模式不同，網路強化隔離並不是由使用者自行建立或調整 Network Policy，而是：

由 AI-Stack 系統統一管理並強制執行專案間的網路隔離政策。

啟用網路強化隔離後，Project 中的容器將與其他 Project 的容器進行通訊隔離，避免不同專案的工作負載直接互相存取。

例如：

Project A

  • vLLM
  • RAG Application
  • Web Application

Project B

  • Model Service
  • AI Application
  • Development Container

在網路強化隔離模式下，系統會建立 Project 之間的網路安全邊界：
Project A 容器 ⇄ Project B 容器

預設受到隔離，避免跨 Project 的工作負載任意建立連線。
這項隔離策略由系統統一維護，不開放使用者自行調整，降低因規則設定錯誤、遺漏或後續異動造成安全邊界失效的風險。

標準模式與網路強化隔離有什麼不同？

兩種模式最大的差異，在於網路政策由誰管理，以及安全邊界控制到什麼程度。

項目標準模式網路強化隔離
管理方式使用者依需求設定系統統一管理
Network Policy可自行設定不開放自行設定
連入規則可設定套用網段、排除網段由系統控制
連出規則可設定套用網段、排除網段由系統控制
Policy 套用對象可選擇 Project 中指定容器由系統統一執行
主要目的細緻控制工作負載網路存取強制建立跨 Project 隔離
適合情境需要彈性網路規則高安全、多租戶、多專案環境

簡單區分：

標準模式

控制「指定容器可以和哪些網路通訊」。

網路強化隔離

控制「不同 Project 的容器不可直接互相通訊」。

常見問題 FAQ

Q1：Network Policy 如何控制 Ingress / Egress？

Network Policy 可分別設定工作負載的 Ingress（連入）與 Egress（連出）規則，控制允許或阻擋的網路流量，實現工作負載間的網路隔離。

Q2. 標準模式和網路強化隔離最大的差別是什麼？

標準模式提供較高的設定彈性，使用者可以自行建立 Network Policy，設定連入、連出網段以及 Policy 套用的容器。

網路強化隔離則由 AI-Stack 系統統一管理，不開放自行調整，主要目的在於強制隔離不同 Project 之間的容器通訊。

Q3. 標準模式可以設定哪些 Network Policy？

標準模式主要可以設定：

  • 連入規則的套用網段
  • 連入規則的排除網段
  • 連出規則的套用網段
  • 連出規則的排除網段
  • Network Policy 套用至 Project 中的指定容器

Q4. 網路強化隔離可以由使用者自行修改規則嗎？

不行。

網路強化隔離屬於系統層級的安全機制，由 AI-Stack 統一管理並執行，不開放一般使用者自行設定或調整。如此可以避免因人為設定錯誤或規則異動，影響 Project 之間原本應維持的安全邊界。

Q5. 網路強化隔離主要限制什麼？

主要限制不同 Project 之間的容器通訊。

當啟用網路強化隔離後，Project 中的工作負載會與其他 Project 的工作負載形成網路隔離，降低跨專案未授權存取與橫向移動的風險。

Q6. 哪些環境適合使用網路強化隔離？

特別適合：

  • 多個部門共用同一套 GPU Cluster
  • 多個客戶共用 AI 基礎架構
  • 不同 Project 涉及不同敏感資料
  • 有多租戶（Multi-Tenant）安全需求
  • 希望強制建立 Project 間安全邊界
  • 不希望網路隔離政策由個別使用者自行調整

Q7：安裝完成後可以切換網路強化隔離模式嗎？

不行。網路強化隔離模式屬於安裝階段的一次性設定，一旦完成部署即無法變更，若需切換必須重新安裝整套系統。

結語

企業 AI 基礎架構逐漸從單一模型、單一團隊，走向多模型、多應用、多 Project 共用 Kubernetes 與 GPU 資源。

此時網路安全不能只有單一層級的控制。

AI-Stack 因此提供兩種 Network Policy 管理模式。

標準模式讓使用者可以依照工作負載需求，設定連入與連出的套用網段、排除網段，以及 Policy 套用的指定容器，建立細緻且具彈性的網路政策。

網路強化隔離模式則由系統統一管理，不開放自行調整，強制隔離不同 Project 之間的容器通訊，建立更一致的專案級安全邊界。

透過「工作負載級彈性控管」與「Project 級強制隔離」兩種機制，企業可以依照實際環境與資安要求，在共享 Kubernetes 與 GPU 基礎架構的同時，兼顧使用彈性與網路安全。

想進一步了解 AI-Stack Network Policy 與網路強化隔離如何協助企業建立更安全的多專案 AI 基礎架構，歡迎與 INFINITIX 團隊聯繫。