韓國電子技術研究院（Korea Electronics Technology Institute, KETI）是支援韓國電子與製造產業數位轉型及 AI 轉型（AX）的專業研究機構。KETI 不僅致力於創造學術研究成果，更負責發掘企業與產業現場所需的技術，並將其具體化為具有商業化可行性的成果，發揮研發事業化（R&DB）的關鍵作用。
KETI 的研究領域涵蓋半導體、顯示器、汽車與電動車零組件，以及電子材料與零組件、能源等韓國製造產業的各個領域。尤其是支援 AI 技術從產品設計到生產現場的導入與應用，已成為 KETI 近年來重點推動的核心課題之一。
為此，KETI 計畫於 2026 年建置製造 AI 專用的 AI 資料中心（AIDC），並以此為基礎，推動製造業專用 AI 模型的開發、訓練、實證及產業現場應用等多項研究開發工作。
挑戰：從單機建置邁向共享型 AI 基礎設施
為支援多位研究人員與開發人員同時進行 AI 模型開發，首先必須建置高效能 GPU AI 訓練基礎設施，並打造可供穩定且彈性共享的運算環境。
同時，還需導入涵蓋 AI 模型開發、訓練、驗證、部署與管理全流程的整合式 MLOps 平台。此外，也有必要建置能夠整合管理 GPU、儲存、網路等多元基礎設施資源的營運平台，以提升資源利用率與整體營運效率。
然而，要打造一套可供多方共享、長期穩定運作的 AI 基礎設施並非易事。KETI 在規劃過程中面臨以下三大核心挑戰：
- 高效能 AI 基礎設施建置門檻高：必須打造可供多位研究人員同時使用的 GPU AI 訓練環境。單純具備高效能運算能力並不足夠，還必須在多位使用者共享同一套基礎設施的多租戶環境中，確保穩定性與不同使用者之間的隔離性，並具備高效率分配有限 GPU 資源的能力。
- AI 開發流程缺乏一致性的管理機制：AI 專案不僅涵蓋模型開發與訓練，也包括驗證、部署、營運及持續更新等完整生命週期。如果缺乏整合式 MLOps 平台，各階段所使用的工具與資料便需要分別管理，進而提高營運複雜度，並可能降低研發效率與協作能力。
- 異構資源分散，整體利用率難以提升：若 GPU、儲存與網路等資源分散於不同系統中個別管理，便容易形成資源孤島。因此，部分資源可能長時間處於閒置狀態，特定資源則可能因需求集中而出現分配失衡。隨著管理對象與營運流程日益複雜，整體基礎設施的利用率可能下降，管理成本也可能增加
綜合而言，KETI 所需解決的並非單純擴充硬體設備，而是如何整合管理異質運算資源、簡化 AI 開發流程，並在多租戶共享環境中，同時兼顧效率、管理便利性、穩定性與擴充性，建置一套智慧化 AI 基礎設施平台。
此基礎設施不僅能支援製造 AI 模型與應用程式的開發，也可作為實驗室階段驗證、測試平台實證及實際製造現場應用的基礎環境。
AI-Stack 帶來的效益與產業價值
導入 AI-Stack 後，KETI 建置了可供多位研究人員與多個專案共同使用的 AI 基礎設施環境，並改善製造 AIDC 的資源管理及營運體系。 研究人員可依據專案需求快速取得 GPU 資源，縮短模型開發與訓練的等待時間。平台管理者則可透過單一介面，集中管理 GPU、儲存及其他主要基礎設施資源，降低營運複雜度並提升資源分配效率。透過 INFINITIX 的智慧化資源調度及共享功能，可減少 GPU 資源的閒置時間，並依照專案優先順序及工作負載特性有效分配資源。藉此，不僅能提升 GPU 利用率，也能建立降低基礎設施總持有成本（TCO）的營運基礎。
AI-Stack 也提供一套可因應未來新增及擴充 GPU 等運算資源的 AI 研發基礎設施。KETI 可在此基礎上，提供製造業專用基礎模型（MFM）與智慧製造技術研究所需的運算環境，並系統化地支援 AI 技術的開發、驗證與實證。
未來展望
未來，AI-Stack 預計將持續用於擴充 KETI 製造 AIDC 的基礎設施與平台能力。透過提供可供更多研究人員與開發人員進行 AI 模型開發、訓練、測試及驗證的共享環境，有望進一步降低使用高效能 AI 基礎設施的門檻。
透過異質運算資源調度、資源共享與整合管理功能，預期可持續提升 AI 基礎設施的使用效率。即使未來運算資源規模與使用者人數增加，仍可維持一致的營運體系，從而協助建置具備擴充性與共享能力的製造 AI 運算平台。
KETI 計畫以此基礎設施支援韓國製造企業與研究機構開發 AI 技術，並加速製造業專用 AI 模型及智慧製造應用程式的實證與產業現場應用。
