금융 AI 개발 인프라 GPU 관리 솔루션

사업적 과제

금융 기술의 급속한 발전에 따라 금융 산업은 데이터 처리 복잡성, 대규모 언어 모델(LLM)의 지식 한계, 시장의 급변 및 인프라 도전 과제에 직면하고 있습니다. 재무제표, 실시간 분석, 위험 평가 및 시장 정보의 다양성은 기술 솔루션에 더 높은 요구를 제기하며, 범용 LLM은 금융 전문 용어 및 고정밀 작업(예: 위험 관리, 시장 예측)에서 성능이 부족합니다. 동시에 시장 변화가 빠르기 때문에 모델은 정확성을 유지하기 위해 자주 업데이트되어야 하며, 에지 디바이스에서 데이터 센터에 이르는 컴퓨팅 수요는 부하 분산 및 대규모 연산의 과제를 가져옵니다.

금융 분야는 높은 복잡성과 전문성을 지니며, 최근 몇 년간 스마트 금융이 직면한 도전 과제는 다음과 같습니다:

• 다양하고 복잡한 금융 데이터 처리: 재무제표, 실시간 데이터 판독 분석, 위험 평가, 동적 시장 정보 등을 포함하며, 동적 시장 정보는 포괄성을 갖기 때문에 맞춤형 시스템 조정이 더욱 필요합니다.
• 범용 대규모 언어 모델(LLM)의 지식 부족: 범용 모델은 금융 전문 용어와 복잡한 재무 개념을 정확히 이해하지 못해, 위험 관리, 고객층 분석, 경제 수준 예측 등 고정밀도가 요구되는 작업에서 성능이 부족합니다.
• 지식 업데이트 빈도 부족: 금융 시장은 빠르게 변화하므로 AI 모델은 정확성을 유지하기 위해 지속적으로 업데이트되어야 합니다.
• 기술 인프라 과제: 에지 디바이스부터 데이터 센터에 이르는 컴퓨팅 요구사항으로, 모델 부하 분산 및 대규모 병렬 컴퓨팅을 포함합니다.

방안 소개

이러한 과제에 대응하기 위해 스마트 금융 AI 솔루션과 인피니틱스 AI-Stack 기술이 결합되어 포괄적인 기술 프레임워크를 제공합니다. 솔루션은 다음과 같은 핵심 특징을 포함합니다:

• AI 모델 최적화 및 신속한 배포:
  • AI-Stack의 GPU 분할 및 다중 칩 통합 기술을 활용하여 효율적인 모델 훈련 및 추론을 실현합니다.
  • AI-Stack의 분산 훈련 기술은 금융 AI 모델 훈련 시간을 현저히 단축합니다.
• 모듈형 애플리케이션 지원:
  • 금융 전문 용어 데이터베이스를 결합하여 훈련 및 학습을 수행하며, 특정 시나리오(신용 평가, 자산 관리 조언, 위험 예측 등)에 대한 미세 조정이 가능합니다.
  • LLM 기술 계층은 계층형 에이전트(AI Agent)와 멀티미디어 처리(음성, 이미지, 텍스트)를 지원합니다.
• 지능형 자원 관리:
  • AI-Stack을 통한 GPU 자원 스케줄링으로 GPU 활용률 90% 달성, 자원 낭비 30%~10% 감소.
  • 멀티클라우드 자원 관리 및 MLOps 통합으로 개발 환경 신속 배포 지원.
  • 기업 애플리케이션 시나리오를 지식베이스(Knowledge Base)와 AI 게이트웨이(AI Gateway)를 통해 내부(HR, 리스크 관리) 및 외부(보험, 자산 관리 등) 애플리케이션으로 구현합니다.
• 기술 인프라:
  • AI-Stack은 NVIDIA 및 AMD의 전체 GPU 시리즈를 지원하여 에지 디바이스부터 데이터 센터까지 원활한 지원을 실현합니다.
  • AI-Stack의 에너지 모니터링 기능은 컴퓨팅 리소스의 효율적이고 저탄소 운영을 보장합니다.

방안 가치

• 신속한 적용: AI 개발 환경 구축 시간을 2주에서 1분으로 단축하여 배포 효율성 향상; 다양한 시나리오의 컨테이너 및 이미지 신속한 호환 지원으로 AI 모델 훈련 및 추론 가속화.
• 고효율 자원 활용: 독자적인 GPU 분할 기술을 통해 투자 수익률 10배 향상, 크로스 브랜드 GPU 고성능 컴퓨팅 자원 통합으로 안정적인 대규모 배포 및 고성능 운영 실현.
• 전문 성능 향상: 기업 수요에 맞춰 제공되는 금융 모델은 보다 정확한 리스크 관리, 데이터베이스 분석 및 미래 시장 예측 능력을 강화합니다.
• 운영 간소화: AI-Stack의 플랫폼 통합 역량을 활용해 유지보수 부담을 줄이고, 자체 팀이 모델 개발 및 적용에 집중할 수 있도록 지원합니다. 모델은 금융 시장의 급변에 대응하기 위해 지속적으로 업데이트됩니다.

금융 AI 개발 관리 솔루션 아키텍처 표