블로그
AI Stack 최신 글
Blog & News
성공 사례
일본 국립대학법인 전기통신대학교(UEC)에 위치한 “ELSA Physical AI Lab”은 생성형 AI와 로봇 기술(Physical AI)의 통합을 연구하는 기관입니다. 이 연구소의 핵심 연구는 사족 보행 로봇과 로봇의 손/팔에 대한 인지 모델 개발에 집중되어 있습니다. 따라서 고성능 시스템을 활용한 시뮬레이션과 실험 환경의 빈번한 전환은 필수적인 핵심 요소입니다. Photo: Daisuke Ishizaka 배경 및 과제: 온프레미스 배포의 예산, 기술, 환경적 장벽 온프레미스 AI 연구개발을 추진하는 과정에서, ELSA 연구소 역시 기업들이 공통적으로 겪는 세 가지 주요 과제에 직면했습니다: Photo: Daisuke Ishizaka 해결 방안 및 실증: AI-Stack과 AMD의 협력을 통한 고효율 연구개발 환경 구축 ELSA 연구소는 AMD Radeon™ AI PRO R9700(32GB GDDR6 VRAM 탑재)을 장착한 ELSA VELUGA G5-ND…
솔루션
주요 이야기
기술 지원
2026년 10월 22일 · INFINITIX 제품팀 들어가며: “이 서버는 동시에 몇 명의 사용자에게 서비스를 제공할 수 있을까?” 한 팀이 GPU 서버에 오픈소스 대규모 언어 모델(LLM)을 배포했다고 가정해 보자. Curl로 프롬프트(Prompt)를 전송하니 1초 남짓 지나 응답 텍스트가 출력되기 시작한다. 언뜻 보기에는 충분히 빠르다. 하지만 ‘빠르게 보인다’는 사실만으로는 다음 질문에 답할 수 없다. – 시스템은 동시에 10명의 요청을 처리할 수 있을까, 아니면 200명까지 처리할 수 있을까? – 사용자가 첫 번째 응답 텍스트를 몇 초 이내에 확인해야 적절한 서비스 품질이라고 할 수 있을까? – 스트리밍 방식으로 응답을 표시할 때 어느 정도의 출력 속도가 확보되어야 자연스럽고 원활하게 느껴질까? 이러한 질문에 답하기 위해 필요한 것이…
AI-Stack 적용 사례에 대해 더 알아보고 싶다면
