業務挑戰

製造業在導入AI技術的數位轉型過程中面臨以下核心挑戰：

  1. 延遲和資料傳輸問題：AI訓練場景中的高頻數據處理需要快速運算，VLM的即時質量檢測與AIoT雲端處理依賴低延遲和高頻寬傳輸。
  2. 安全性與隱私：數據處理過程可能導致資料外泄，特別是在工業法規如NIS2和IEC 62443的限制下。
  3. 整合與靈活性：不同場景的AI模型（如機器視覺、AMR、QSR）需與現有系統協同，且必須選擇最佳硬體架構以平衡效能與資源需求。
  4. 成本與資源優化：Edge AI邊緣運算對硬體的需求提升了基礎設施成本和能源消耗。
  5. 生產預測性：數位孿生與AIoT 整合的預測性維護仍需改進，才能進一步減少自動化生產的停機時間。

解決方案簡介

製造的物質世界比數位資訊複雜數倍以上，要把AI帶入物理世界必須運用生產製造時產生的各環節大量數據進行分析拆解，再經過多次模擬測試，並在虛擬工廠中模擬生產流程規劃，即時生產數據回傳給AI模型來做到即使反映，強化AI應用及加速落地應用。而在實際的智慧生產製造環境中，AI應用需要結合邊緣運算(Edge Computing)來應對多樣化的生產場景，例如分布式工廠的操作需求或即時辨別偵測，邊緣運算不僅能確保系統的穩定性與高效能，還能減少數據上傳雲端的需求，大幅提升數據隱私保護。

AI 驅動的智慧製造解決方案結合 AI-Stack 核心技術功能，為製造業提供從模型訓練到部署的完整支援：

  1. 快速模型訓練與優化：
    • AI-Stack 的預訓練模型與自動化AI工作流支持大規模模型訓練，縮短訓練週期，提升模型準確性。
    • 可快速生成並優化機器視覺模型（如瑕疵檢測）和設備預測維護模型。 
  1. 邊緣推論與數據同步： 
    • AI-Stack 開源模組及HPC即時邊緣推論能力，減少延遲並提升數據處理效率。
    • 與數位孿生模型整合，實現多場景即時模擬與調整。
  1. 模組化應用部署：
    • 利用 AI-Stack 的模組化架構，可快速部署 AMR、機器視覺和智慧生產線應用。
    • 通過與 Kubernetes、Slurm 等技術的整合，AI-Stack 可以在多雲環境中運行，提供多雲支持。
  1. 自動化運維工具：
    • 自動化排程及模型部署更新，降低AI基礎設施管理人力需求。

方案價值

智慧製造結合 AI-Stack 的強大功能，將為製造業帶來以下價值：

  1. 更快的模型應用與落地：AI-Stack 提供開源的開發與生態層，從環境到容器鏡像設定僅需1分鐘完成，使AI開發人員從訓練到推論大幅縮短應用導入週期。
  2. 實現即時生產優化：邊緣設備上的推論模組能即時調整生產參數，提升效率並降低次品率。
  3. 成本效益與永續發展：支援多款GUP運算架構提升整體算力使用效率，降低基礎設施與運行採購成本，助力企業實現永續目標。
  4. 提升安全性與可靠性：零信任架構與邊緣計算結合，提升數據安全性並減少外泄風險。
  5. 適應多場景需求：平台管理系統可自動化部署，減少GUP等待空閒時間和溝通成本，提升整體伺服器運維效率；模組化設計和靈活部署能力，能協助工廠智能化開發升級。

AI-Stack 解決方案

整合 AI-Stack 功能的智慧製造解決方案架構：

層級功能描述AI-Stack 相關功能
邊緣設備層數據採集與即時處理：傳感器、機器視覺設備和邊緣計算設備進行即時數據收集與處理，確保低延遲運算。提供GPU分片技術以支持多任務分攤資源，提升邊緣設備的數據處理效率。
數據處理層數據清理、標準化與分析：集中管理各類型數據，支持數字孿生與多場景模擬。利用HPC 支援的分佈式運算技術（如多節點分佈式訓練與高效並行處理）快速處理大規模數據；內建 GPU 優化系統實現高吞吐與低延遲數據處理，實現數據預處理與模型推論的高效運行；支持多場景即時模擬與調整。
應用管理層模型訓練、部署與更新：支持大規模深度學習模型的訓練與快速部署，適應多元化應用場景（如預測性維護、自動化生產線監控）。HPC 加速的 AI 訓練與推論平台支持大規模並行運算與多節點協作；提供端到端MLOps工作流程，簡化模型開發、部署與監控；支持多節點分佈式訓練以優化模型效率。
安全與控制層資源管理與數據安全：確保系統內部的數據與資源不被未經授權的訪問，同時實現高效的資源分配與協作。內建零信任架構與角色訪問控制（RBAC），支持GPU資源池化管理並優化任務排程與分配；提供即時監控與診斷工具以確保運行穩定性。

解決方案價值

  1. 效率提升：採用 GPU 分片技術，將 GPU 資源利用率從 30% 提升至高達 90%，顯著提高資源使用效率。
  2. 成本效益：透過優化硬體配置，減少基礎設施需求，同時實現 10 倍的投資回報率。
  3. 即時應用：結合 HPC 技術加速分佈式模型訓練，大幅縮短 AI 訓練時間並提升精準度；同時支持邊緣運算與低延遲推論，以滿足智慧製造的動態生產需求。

AI-Stack 的核心功能將製造業 AI 應用的導入週期縮短，並提供高效、靈活和安全的解決方案，幫助製造企業實現更高效的智慧製造與運營。