部落格
關於 AI Stack 最新的文章
Blog & News
AI-Stack 聯手 AMD 打造高效研發環境：ELSA 實驗室選擇導入搭載 AMD Radeon™ AI PRO R9700（具備 32GB GDDR6 顯存）的 ELSA VELUGA G5-ND 高階工作站，並透過 AI-Stack 算力調度與AI基礎設施管理平台進行算力調配管理，將硬體投資精準轉化為研發產出。
數位發展部攜手數位無限，成功建置台灣AI算力共享平台。透過「AI-Stack」平台，新創企業可享有靈活高效的GPU算力資源，加速AI應用落地。平台支援跨品牌GPU整合，並具備多種開源工具，為台灣數位產業升級奠定堅實基礎。
成功案例
導入 AI-Stack 後，KETI 建置了可供多位研究人員與多個專案共同使用的 AI 基礎設施環境，並改善製造 AIDC 的資源管理及營運體系。 研究人員可依據專案需求快速取得 GPU 資源，縮短模型開發與訓練的等待時間。
國立虎尾科技大學導入 AI-Stack，將分散各系所的 GPU 整合為集中資源池，環境建置從數週縮短至數分鐘，維運成本降低 50% 以上，支撐無人機數位孿生與智慧群飛研發。完整導入歷程與成效解析。
AI-Stack 聯手 AMD 打造高效研發環境：ELSA 實驗室選擇導入搭載 AMD Radeon™ AI PRO R9700（具備 32GB GDDR6 顯存）的 ELSA VELUGA G5-ND 高階工作站，並透過 AI-Stack 算力調度與AI基礎設施管理平台進行算力調配管理，將硬體投資精準轉化為研發產出。
解決方案
企業 GPU 平均稼動率僅 5%，硬體驗收完成不等於能開始服務客戶。本文解析自建 AI 資料中心的四個缺口——稼動率、多租戶、Token 計量計費、上線時間，以及該自建或採購的判斷依據。
從算力調度到資料儲存，補齊企業地端 AI 部署的最後一塊拼圖。 2026 年企業持續擴大 AI 基礎設施投資，算力、儲存與網路已成為 IT 資本支出中成長最快的項目之一。然而，投資規模擴大的同時，運算…
精選文章
Dot、Grok Bot、Muse、Duet 怎麼選？從可用資格、背景工作、串接、費用與權限審批，比較企業導入常駐 AI 助理的六項重點。
Muse Spark Open公開816B模型權重後，企業如何評估部署？從啟用參數、服務上下文、工具權限到授權，整理七項導入檢查。
技術支援
什麼是 LLM Benchmark？ 「LLM benchmark」常見有兩種意思。能力評測 benchmark（例如 MMLU、HumanEval 等題庫）關心的是模型答得對不對，而不是在評估硬體效能；推論效能 benchmark則關心同一個模型部署在特定硬體與推論引擎後，回應速度有多快，以及可以同時服務多少使用者。本文討論的是後者，也就是大家真正想知道的事。
本篇文章將示範如何在 AI-Stack 上使用 RCS 功能搭配 vLLM 部署 google/gemma-3-1b-it 語言模型！
對於安全要求高的共享 AI 基礎架構，如何透過Network Policy 如何控制 Ingress / Egress來限制底層工作負載之間的網路連線？
我有興趣了解更多 AI-Stack 應用案例
