航太底蘊 × AI 雲端運算平台，加速無人機研發、教學轉型與產學共創

一、專案背景

隨著烏俄戰爭改變傳統戰爭型態，無人機成為各國競逐的關鍵戰略產業。臺灣行政院宣布自 2025 年起六年內投入新臺幣 442 億元打造「無人機國家隊」。國立虎尾科技大學憑藉深厚航太底蘊，自 2022 年起執行教育部計畫，成立「無人機先進製造與檢測實驗室」，深耕無人機領域超過 20 年，並主導營運「亞洲無人機 AI 創新應用研發中心（亞創中心）」，吸引雷虎科技等指標企業共同研發，如導入變翼結構技術的 MIT「變形金剛無人機」。

然而，「智慧群飛」與「即時自主導航」等前瞻專案，涉及大量虛擬環境生成與海量感測資料（如 4K 影像、光達點雲），需要極其強大的 AI 算力支援；傳統「設計、製造、試飛」的實體開發循環，一旦失敗即須推倒重來，時程冗長、成本高昂。學校因此規劃建置整合型「AI 算力雲平台」，盼透過數位孿生技術大幅縮短開發驗證時程，補齊研發戰力最後一塊拼圖，同時將 AI 能量開放給全校師生，翻轉教學並帶動雲嘉南區域產業智慧升級。

二、導入前面臨的挑戰

•     資源孤島化與分配不均：各系所自行採購 GPU，形成「熱門實驗室算力不夠用、冷門單位設備閒置」，且缺乏跨院系共享機制，造成投資浪費。

•     環境建置耗時、維運門檻高：不同 AI 模型需要不同框架與 CUDA 版本，師生常需數天至數週處理環境架設，維護負擔落在教授與研究生身上，缺乏穩定性與資安保障。

•     教學與專題研究彈性不足：難以同時提供數十位學生規格一致的運算環境，高階資源優先保留給核心專案，一般師生常面臨「無卡可用」或排隊過久的窘境。

•     算力規格無法支撐高複雜度模型：傳統工作站無法應付 4K 影像、光達點雲等海量資料訓練，也無法滿足 NVIDIA Omniverse 等低延遲數位孿生運算需求。

三、解決方案：導入 AI-Stack基礎設施管理平台

虎科大電子計算機中心引進 AI-Stack，將底層 GPU/ CPU/ 記憶體資源全面虛擬化與集中管理，從資源調度、容器環境、使用者權限到系統維運，建立一套完整的智慧算力治理架構。

過去痛點AI-Stack 解決方案
資源孤島化：各系所自購 GPU，熱門實驗室不夠用、冷門單位設備閒置集中化資源池 + 群組配額（Quota）管理，依系所 / 專案彈性分配算力
環境建置耗時：需數天至數週處理驅動程式、CUDA 版本相容性一鍵部署 NGC 優化框架（TensorFlow/ PyTorch/ Caffe/ TensorRT），一分鐘完成環境建置
教學彈性不足：無法同時提供數十名學生一致的運算環境批次創建課程容器，課程結束自動回收，標準化教學環境
算力規格不足：4K 影像、光達點雲、數位孿生等高頻寬需求難以支撐整合高階 GPU 資源並支援多卡聚合，滿足 NVIDIA Omniverse 等低延遲運算需求

3.1 資源調度

  • 支援 GPU 切割技術，允許多人/多任務共用單張顯卡。適用於開發測試與輕量推論，能顯著提升硬體利用率、降低設備門檻。
  • 可聚合多卡與跨節點算力，支援 LLM 大模型微調與高效能訓練；搭配動態配額管理，可依需求彈性派發並自動回收閒置算力。

3.2 容器環境管理

  • 支援 PyTorch、JupyterHub、Hugging Face、Ollama 等開源生態系，網頁介面點選即可於數秒內部署對應 CUDA 版本環境。1 分鐘內部署 AI 開源容器，加速 RAG 系統開發。
  • 支援自定義鏡像上傳，方便無人機研發團隊複製包含 NVIDIA Omniverse、光達點雲處理等特殊環境。

3.3 使用者與權限管理

  • 介接校內 LDAP/AD 帳號系統，師生不需記住多組密碼，直接用校內帳號即可登入，實現單一登入（SSO）。
  • 依系所、專案建立群組配額與簽核流程，並提供運算資源隔離，確保產學合作資料不外洩。

3.4 系統維運

  • 批次創建課程容器並於課程結束或閒置逾時自動回收，避免資源長期閒置佔用。
  • 圖形化儀表板即時監控伺服器與 GPU 使用率、溫度與健康狀況。
  • 完整記錄各帳戶/ 專案使用歷程，作為跨校協作、政府專案或產學合作費用攤提與成效報告依據。

四、導入成效

  • 管理效率提升：電子計算機中心由「被動維修」轉為「主動管理」，單一後台即可控管全校算力，維護成本降低 50% 以上。
  • 資源利用率最大化：透過 GPU 分割技術，將原本閒置的算力碎片重新分配給多位學生進行輕量化測試，整體硬體投資報酬率顯著提升。
  • 使用體驗大幅改善：過去需數天準備的期末專題環境，如今數分鐘內即可就緒，大幅縮短專題開發週期。
  • 教學與人才培育升級：AI 技術深度植入航太、電機、智慧製造等系所教學，培養具備實戰力的跨域高階人才，畢業即戰力，獲產業高度肯定。

五、未來展望：多元 AI 應用落地與區域產學賦能

  • 跨域人才培育：開設「無人機跨域學程」，涵蓋 AI 系統建模、智慧自主飛行、智慧製造應用等模組課程，讓不具備程式設計背景的師生也能一鍵開啟標準化開發環境。
  • 校園 AI 助理落地：代表應用如「OriStork 微積分教學助理」，以蘇格拉底式提問引導學生思考而非直接給答案；以及「智慧校園 AI 行政助理」，將法規、選課、差旅規定數位化後導入 LLM，把原本 15–20 分鐘的人工比對縮短為 5–10 秒內的精確定位與摘要。
  • 地端部署與資安自主：所有模型推理皆在校內核心伺服器運行，機敏資料不出校門，兼顧資安與算力主權，同時免除向境外大型科技公司支付高額商業 API 費用。
  • 區域產業帶動：AI 算力雲平台將持續攜手 Dell Technologies 擴充算力，目標成為服務雲嘉南產業聚落的區域級 AI 運算中心，帶動中部精密機械與航太產業智慧升級。

六、客戶心得

「AI-Stack 是國立虎尾科技大學點石成金的算力發動機，它化繁為簡、凝聚資源，全面加速了跨領域 AI 人才培育與前瞻學術研究的創新步伐。」