한국전자기술연구원(Korea Electronics Technology Institute, KETI)은 국내 전자·제조산업의 디지털 전환과 AI 전환(AX)을 지원하는 전문 연구기관이다. KETI는 학술적 연구성과 창출에 그치지 않고, 기업과 산업 현장에서 필요로 하는 기술을 발굴하고 사업화 가능성이 있는 형태로 구체화하는 연구개발사업화(R&DB) 역할을 수행하고 있다.

KETI의 연구 분야는 반도체, 디스플레이, 자동차와 전기차 부품을 비롯해 전자소재·부품, 에너지 등 국내 제조산업 전반을 포괄한다. 특히 제품 설계부터 생산 현장까지 AI 기술의 도입과 활용을 지원하는 것은 최근 KETI가 중점적으로 추진하고 있는 핵심 과제 중 하나다.

이를 위해 KETI는 2026년 제조 AI 전용 AI 데이터센터(AIDC)를 구축하고, 이를 기반으로 제조 특화 AI 모델의 개발과 학습, 실증 및 산업 현장 적용을 위한 다양한 연구개발을 추진할 계획이다.

도전 과제: 단일 시스템 구축에서 공유형 AI 인프라로의 전환

여러 연구자와 개발자가 동시에 AI 모델을 개발할 수 있도록 지원하기 위해서는 우선 고성능 GPU 기반의 AI 학습 인프라를 구축하고, 이를 안정적이고 유연하게 공유할 수 있는 컴퓨팅 환경을 마련해야 했다.

이와 함께 AI 모델의 개발, 학습, 검증, 배포 및 관리에 이르는 전 과정을 지원하는 통합 MLOps 플랫폼을 도입해야 했다. 또한 GPU, 스토리지, 네트워크 등 다양한 인프라 자원을 통합적으로 관리할 수 있는 운영 플랫폼을 구축해 자원 활용률과 전체 운영 효율성을 높일 필요가 있었다.

그러나 여러 사용자가 공동으로 활용하면서도 장기간 안정적으로 운영할 수 있는 AI 인프라를 구축하는 것은 간단한 과제가 아니었다. KETI는 구축 계획을 수립하는 과정에서 다음과 같은 핵심 과제를 확인했다.

고성능 AI 인프라 구축의 높은 진입장벽

여러 연구자가 동시에 사용할 수 있는 GPU 기반 AI 학습 환경을 마련해야 했다. 단순히 높은 연산 성능을 확보하는 것만으로는 충분하지 않았다. 다수의 사용자가 하나의 인프라를 공유하는 멀티테넌시 환경에서 안정성과 사용자 간 격리성을 보장하고, 제한된 GPU 자원을 효율적으로 배분하는 기능까지 확보해야 했다.

AI 개발 전 과정에 대한 일관된 관리체계 부족

AI 프로젝트는 모델 개발과 학습뿐만 아니라 검증, 배포, 운영 및 지속적인 업데이트에 이르는 전체 생애주기를 포함한다. 통합 MLOps 플랫폼이 없으면 각 단계의 도구와 데이터를 개별적으로 관리해야 하므로 운영 복잡도가 높아지고, 연구개발 효율성과 협업 역량도 저하될 수 있다.

이기종 자원의 분산 관리로 인한 낮은 활용률

GPU, 스토리지, 네트워크 등의 자원을 개별 시스템에서 분산 관리하면 자원 간 사일로가 발생하기 쉽다. 이에 따라 일부 자원은 유휴 상태로 남는 반면, 특정 자원에는 수요가 집중되는 배분 불균형이 발생할 수 있다. 관리 대상과 운영 절차도 복잡해져 전체 인프라의 활용률이 낮아지고 관리 비용이 증가할 가능성이 있다.

종합적으로 KETI가 해결해야 할 과제는 단순한 하드웨어 증설이 아니었다. 이기종 컴퓨팅 자원을 통합적으로 관리하고 AI 개발 절차를 간소화하는 동시에, 멀티테넌시 기반의 공유 환경에서 효율성, 관리 편의성, 안정성 및 확장성을 모두 확보한 지능형 AI 인프라 플랫폼을 구축하는 것이 핵심이었다.

이러한 인프라는 제조 AI 모델과 애플리케이션의 개발뿐만 아니라 실험실 수준의 검증, 테스트베드 실증 및 실제 제조 현장 적용을 지원하는 기반으로 활용될 수 있다.

AI-Stack 도입 효과와 산업적 가치

AI-Stack 도입을 통해 KETI는 여러 연구자와 프로젝트가 공동으로 활용할 수 있는 AI 인프라 환경을 구축하고, 제조 AIDC의 자원 관리와 운영체계를 개선했다.

연구자들은 프로젝트의 필요에 따라 GPU 자원을 신속하게 할당받을 수 있어 모델 개발과 학습을 위한 대기 시간을 줄일 수 있게 됐다. 플랫폼 관리자는 단일 인터페이스를 통해 GPU와 스토리지를 비롯한 주요 인프라 자원을 중앙에서 관리함으로써 운영 복잡도를 낮추고, 자원 배분의 효율성을 높일 수 있게 됐다.

인피니틱스의 지능형 자원 스케줄링과 공유 기능을 활용하면 GPU 자원의 유휴 시간을 줄이고, 프로젝트의 우선순위와 작업 특성에 따라 자원을 효율적으로 배분할 수 있다. 이를 통해 GPU 활용률을 높이는 동시에 인프라 총소유비용(TCO)을 절감할 수 있는 운영 기반을 마련했다.

또한 프로젝트별 자원 사용량 관리와 실시간 모니터링 기능을 통해 인프라의 운영 현황을 보다 명확하게 파악할 수 있게 됐다. 이는 연구자에게는 안정적인 AI 개발 환경을 제공하고, 관리자에게는 투명하고 체계적인 자원 운영 환경을 제공한다.

AI-Stack은 향후 GPU를 비롯한 컴퓨팅 자원의 추가 도입과 확장을 고려할 수 있는 AI 연구개발 인프라 기반도 제공한다. KETI는 이를 바탕으로 제조 특화 파운데이션 모델(MFM)과 스마트 제조 기술 연구에 필요한 컴퓨팅 환경을 제공하고, AI 기술의 개발과 검증, 실증을 체계적으로 지원할 수 있게 됐다.

향후 전망

앞으로 AI-Stack은 KETI가 제조 AIDC의 인프라와 플랫폼 역량을 지속적으로 확장하는 데 활용될 전망이다. 더 많은 연구자와 개발자가 AI 모델의 개발, 학습, 테스트 및 검증을 수행할 수 있는 공유 환경을 제공함으로써, 고성능 AI 인프라 활용에 대한 진입장벽을 낮추는 데 기여할 수 있다.

또한 이기종 컴퓨팅 자원에 대한 스케줄링, 자원 공유 및 통합 관리 기능을 기반으로 AI 인프라의 사용 효율성을 지속적으로 높일 수 있을 것으로 기대된다. 향후 컴퓨팅 자원의 규모와 사용자 수가 증가하더라도 일관된 운영체계를 유지할 수 있어, 확장 가능하고 공유 가능한 제조 AI 컴퓨팅 플랫폼 구축에 도움이 될 수 있다.

KETI는 이러한 인프라를 바탕으로 국내 제조기업과 연구기관의 AI 기술 개발을 지원하고, 제조 특화 AI 모델과 스마트 제조 애플리케이션의 실증 및 산업 현장 적용을 가속해 나갈 계획이다.