여러 팀과 모델 서비스, AI 애플리케이션이 동일한 Kubernetes 및 GPU 인프라를 공유하는 환경에서는 계정과 권한 관리만으로 기반 워크로드 간의 네트워크 연결을 충분히 제한하기 어렵습니다.
예를 들어 다음과 같은 사항을 고려해야 합니다.
- 어떤 네트워크 대역에서 AI 워크로드로 접근할 수 있는가?
- 접근을 허용하지 않아야 할 네트워크 대역은 무엇인가?
- AI 워크로드는 어떤 네트워크 대역으로 연결할 수 있는가?
- 접근을 제한해야 할 목적지 네트워크 대역은 어디인가?
- 동일한 프로젝트(Project) 내에서 어떤 컨테이너에 Network Policy를 적용해야 하는가?
적절한 네트워크 접근 제어가 이루어지지 않으면 워크로드가 불필요한 서비스나 네트워크 리소스에 접근할 수 있습니다. 이는 무단 접근, 데이터 유출, 측면 이동(Lateral Movement) 등의 보안 위험으로 이어질 수 있습니다.
AI-Stack은 Network Policy 관리 기능을 제공합니다. 사용자는 AI-Stack 플랫폼에서 네트워크 정책을 직접 설정하여 인바운드 및 아웃바운드 트래픽을 각각 제어하고, 프로젝트 내에서 정책을 적용할 컨테이너를 지정할 수 있습니다.
Network Policy의 주요 설정 항목은 다음과 같습니다.
- 인바운드 규칙: 적용할 네트워크 대역 및 제외할 네트워크 대역 설정
- 아웃바운드 규칙: 적용할 네트워크 대역 및 제외할 네트워크 대역 설정
- 정책 적용 대상: 프로젝트 내에서 Network Policy를 적용할 컨테이너 지정
기업은 이러한 세분화된 네트워크 트래픽 제어를 통해 공유 AI 인프라에서도 워크로드별 보안 경계를 더욱 명확하게 구축할 수 있습니다.
Network Policy로 무엇을 제어할 수 있나요?
AI-Stack Network Policy는 워크로드의 네트워크 통신 범위를 제어하며, 주요 기능은 다음과 같습니다.
1. 인바운드 트래픽 제어
지정된 워크로드에 접근할 수 있는 출발지 네트워크 대역을 설정합니다. 적용할 네트워크 대역과 제외할 네트워크 대역을 조합하여 실제 인바운드 트래픽 범위를 정의할 수 있습니다.
2. 아웃바운드 트래픽 제어
워크로드가 외부로 연결할 수 있는 네트워크 대역을 설정합니다. 이를 통해 컨테이너가 불필요한 내부 네트워크나 기타 리소스에 접근하지 못하도록 제한할 수 있습니다.
3. 컨테이너 단위 정책 적용
프로젝트 내 특정 컨테이너를 Network Policy 적용 대상으로 지정할 수 있습니다. 따라서 각 워크로드의 실제 요구사항에 따라 서로 다른 네트워크 규칙을 적용할 수 있습니다.
4. 프로젝트 단위 네트워크 격리
네트워크 강화 격리 모드를 사용하면 AI-Stack 시스템이 서로 다른 프로젝트 간의 컨테이너 통신을 일괄적으로 제한합니다. 이를 통해 프로젝트 간 네트워크 보안 경계를 구축할 수 있습니다.
AI-Stack이 제공하는 두 가지 Network Policy 관리 모드
기업과 AI 프로젝트마다 요구되는 네트워크 보안 수준은 서로 다릅니다.
사용자가 실제 인프라 구조에 맞춰 워크로드의 인바운드 및 아웃바운드 규칙을 직접 설정해야 하는 환경이 있는 반면, 사용자에 의한 보안 경계 변경을 허용하지 않고 프로젝트 간 격리를 더욱 엄격하게 적용해야 하는 환경도 있습니다.
이에 따라 AI-Stack은 두 가지 Network Policy 관리 모드를 제공합니다.
- 표준 모드
- 네트워크 강화 격리 모드
두 모드는 각각 ‘유연한 제어’와 ‘강제 격리’라는 서로 다른 네트워크 거버넌스 요구사항에 대응합니다.
표준 모드: 워크로드 요구사항에 따른 유연한 네트워크 정책 설정
표준 모드는 AI 애플리케이션, 모델 서비스 또는 기업 네트워크 구조에 따라 접근 범위를 직접 정의해야 하는 환경에 적합합니다.
사용자는 AI-Stack 플랫폼에서 Network Policy를 생성하고 다음 항목을 설정할 수 있습니다.
인바운드 규칙
지정된 워크로드로 유입되는 네트워크 트래픽의 범위를 제어합니다.
– 적용할 네트워크 대역
– 제외할 네트워크 대역
적용 대역과 제외 대역을 조합하여 실제 요구사항에 맞게 정책이 적용될 출발지 네트워크 범위를 정의할 수 있습니다.
아웃바운드 규칙
지정된 워크로드가 외부로 연결할 수 있는 네트워크 범위를 제어합니다.
- 적용할 네트워크 대역
- 제외할 네트워크 대역
예를 들어 특정 RAG 애플리케이션이 일부 사내 네트워크에만 접근해야 한다면, 실제 인프라 구조에 맞는 아웃바운드 정책을 설정하여 불필요한 네트워크 접근을 줄일 수 있습니다.
정책을 적용할 컨테이너 지정
네트워크 범위뿐만 아니라 프로젝트 내에서 Network Policy를 적용할 컨테이너도 선택할 수 있습니다.
따라서 동일한 프로젝트에 속한 워크로드라도 각각의 용도에 따라 서로 다른 네트워크 정책을 적용할 수 있습니다.
예를 들면 다음과 같습니다.
- Model Server에는 더욱 엄격한 인바운드 정책 적용
- RAG Application에는 업무상 필요한 사내 네트워크 대역만 허용
- Web Application에는 별도의 인바운드 및 아웃바운드 규칙 적용
표준 모드를 사용하면 AI 워크로드의 역할과 실제 비즈니스 요구사항에 맞춰 더욱 세분화되고 유연한 네트워크 접근 제어 체계를 구축할 수 있습니다.
네트워크 강화 격리 모드: 시스템이 프로젝트 간 격리를 일괄적으로 강제 적용
높은 수준의 보안이 요구되는 공유 AI 인프라에서는 사용자가 직접 Network Policy를 설정할 수 있도록 하는 것만으로 서로 다른 프로젝트 간에 일관된 네트워크 보안 경계를 유지하기 어려울 수 있습니다.
이를 위해 AI-Stack은 네트워크 강화 격리 모드를 별도로 제공합니다.
표준 모드와 달리, 네트워크 강화 격리 모드에서는 사용자가 Network Policy를 직접 생성하거나 변경하지 않습니다.
프로젝트 간 네트워크 격리 정책은 AI-Stack 시스템에서 일괄적으로 관리하고 강제 적용합니다.
네트워크 강화 격리 모드를 활성화하면 각 프로젝트의 컨테이너가 다른 프로젝트의 컨테이너와 통신하지 못하도록 격리됩니다. 이를 통해 서로 다른 프로젝트의 워크로드가 직접 접근하는 것을 방지할 수 있습니다.
예를 들어 다음과 같이 두 개의 프로젝트가 있다고 가정할 수 있습니다.
프로젝트 A
- vLLM
- RAG Application
- Web Application
프로젝트 B
- Model Service
- AI Application
- Development Container
네트워크 강화 격리 모드에서는 프로젝트 사이에 다음과 같은 네트워크 보안 경계가 형성됩니다.
프로젝트 A의 컨테이너 ⇄ 프로젝트 B의 컨테이너
프로젝트 간 통신은 기본적으로 격리되며, 서로 다른 프로젝트의 워크로드가 임의로 연결되는 것을 방지합니다.
해당 격리 정책은 시스템에서 일괄적으로 유지·관리하며 사용자가 직접 변경할 수 없습니다. 이를 통해 정책 설정 오류, 규칙 누락 또는 이후의 잘못된 변경으로 인해 보안 경계가 무력화될 위험을 줄일 수 있습니다.
표준 모드와 네트워크 강화 격리 모드는 어떻게 다른가요?
두 모드의 가장 큰 차이는 네트워크 정책을 누가 관리하는지, 그리고 보안 경계를 어느 수준까지 제어하는지에 있습니다.
| 항목 | 표준 모드 | 네트워크 강화 격리 모드 |
| 관리 방식 | 사용자가 요구사항에 따라 설정 | 시스템에서 일괄 관리 |
| Network Policy | 사용자가 직접 설정 가능 | 사용자 설정 불가 |
| 인바운드 규칙 | 적용 대역 및 제외 대역 설정 가능 | 시스템에서 제어 |
| 아웃바운드 규칙 | 적용 대역 및 제외 대역 설정 가능 | 시스템에서 제어 |
| 정책 적용 대상 | 프로젝트 내 특정 컨테이너 선택 가능 | 시스템에서 일괄 적용 |
| 주요 목적 | 워크로드의 네트워크 접근을 세부적으로 제어 | 프로젝트 간 강제 격리 |
| 적합한 환경 | 유연한 네트워크 규칙이 필요한 환경 | 높은 보안 수준이 요구되는 멀티테넌트·다중 프로젝트 환경 |
간단히 구분하면 다음과 같습니다.
표준 모드
“지정된 컨테이너가 어떤 네트워크와 통신할 수 있는지”를 제어합니다.
네트워크 강화 격리 모드
“서로 다른 프로젝트의 컨테이너가 직접 통신하지 못하도록” 제어합니다.
자주 묻는 질문(FAQ)
Q1: Network Policy는 Ingress / Egress를 어떻게 제어하나요?
Network Policy를 통해 Ingress(수신)와 Egress(송신) 규칙을 각각 설정하여 허용하거나 차단할 네트워크 트래픽을 제어하고, 워크로드 간 네트워크 격리를 구현할 수 있습니다.
Q2. 표준 모드와 네트워크 강화 격리 모드의 가장 큰 차이는 무엇인가요?
표준 모드는 높은 설정 유연성을 제공합니다. 사용자가 직접 Network Policy를 생성하고 인바운드 및 아웃바운드 네트워크 대역과 정책 적용 대상 컨테이너를 지정할 수 있습니다.
네트워크 강화 격리 모드는 AI-Stack 시스템에서 일괄적으로 관리하며 사용자가 직접 변경할 수 없습니다. 주요 목적은 서로 다른 프로젝트 간의 컨테이너 통신을 강제로 격리하는 것입니다.
Q3. 표준 모드에서는 어떤 Network Policy를 설정할 수 있나요?
표준 모드에서는 다음 항목을 설정할 수 있습니다.
- 인바운드 규칙의 적용 네트워크 대역
- 인바운드 규칙의 제외 네트워크 대역
- 아웃바운드 규칙의 적용 네트워크 대역
- 아웃바운드 규칙의 제외 네트워크 대역
- 프로젝트 내에서 Network Policy를 적용할 특정 컨테이너
Q4. 사용자가 네트워크 강화 격리 모드의 규칙을 직접 변경할 수 있나요?
아니요.
네트워크 강화 격리 모드는 시스템 수준의 보안 기능으로, AI-Stack이 정책을 일괄적으로 관리하고 적용합니다. 일반 사용자는 관련 정책을 직접 설정하거나 변경할 수 없습니다.
이를 통해 사용자 설정 오류나 정책 변경으로 인해 프로젝트 간에 유지되어야 할 보안 경계가 영향을 받는 것을 방지할 수 있습니다.
Q5. 네트워크 강화 격리 모드는 무엇을 제한하나요?
주로 서로 다른 프로젝트 간의 컨테이너 통신을 제한합니다.
네트워크 강화 격리 모드를 활성화하면 각 프로젝트의 워크로드가 다른 프로젝트의 워크로드와 네트워크 수준에서 격리됩니다. 이를 통해 프로젝트 간 무단 접근과 측면 이동의 위험을 줄일 수 있습니다.
Q6. 네트워크 강화 격리 모드는 어떤 환경에 적합한가요?
다음과 같은 환경에 특히 적합합니다.
- 여러 부서가 동일한 GPU 클러스터를 공유하는 환경
- 여러 고객이 하나의 AI 인프라를 공유하는 환경
- 프로젝트마다 서로 다른 민감 데이터를 처리하는 환경
- 멀티테넌트(Multi-Tenant) 보안이 필요한 환경
- 프로젝트 간 보안 경계를 강제로 설정해야 하는 환경
- 개별 사용자가 네트워크 격리 정책을 직접 변경하지 못하도록 해야 하는 환경
Q7. 설치가 완료된 후 네트워크 강화 격리 모드로 전환할 수 있나요?
아니요.
네트워크 강화 격리 모드는 설치 단계에서 한 번만 선택할 수 있는 설정입니다. 시스템 배포가 완료된 후에는 변경할 수 없으며, 모드를 전환하려면 전체 시스템을 다시 설치해야 합니다.
맺음말
기업의 AI 인프라는 단일 모델과 단일 팀 중심의 환경에서 벗어나, 여러 모델과 애플리케이션, 프로젝트가 Kubernetes 및 GPU 리소스를 공유하는 형태로 발전하고 있습니다.
이러한 환경에서는 단일 계층의 제어만으로 충분한 네트워크 보안을 확보하기 어렵습니다.
이에 따라 AI-Stack은 두 가지 Network Policy 관리 모드를 제공합니다.
표준 모드에서는 워크로드 요구사항에 따라 인바운드 및 아웃바운드의 적용 네트워크 대역과 제외 네트워크 대역을 설정하고, 정책을 적용할 컨테이너를 지정할 수 있습니다. 이를 통해 세분화되고 유연한 네트워크 정책을 구성할 수 있습니다.
네트워크 강화 격리 모드는 시스템에서 정책을 일괄적으로 관리하며 사용자에 의한 변경을 허용하지 않습니다. 서로 다른 프로젝트 간의 컨테이너 통신을 강제로 격리하여 더욱 일관된 프로젝트 수준의 보안 경계를 구축합니다.
기업은 ‘워크로드 단위의 유연한 제어’와 ‘프로젝트 단위의 강제 격리’라는 두 가지 방식을 활용해 공유 Kubernetes 및 GPU 인프라의 사용 편의성과 네트워크 보안을 동시에 확보할 수 있습니다.
AI-Stack Network Policy와 네트워크 강화 격리 기능을 통해 더욱 안전한 다중 프로젝트 AI 인프라를 구축하는 방법이 궁금하시다면 INFINITIX 팀에 문의해 주세요.
