資料中心的產出單位正從機櫃走向 token,但多數自建計畫的預算只蓋到硬體與廠房。真正把算力變成收入的那一層,通常不在圖面上。
AI 資料中心的產出單位:從機櫃到 token
過去二十年,資料中心的價值用機櫃數、妥善率與 PUE 衡量。AI 工作負載把這個定義改了。NVIDIA 執行長黃仁勳在 GTC 2026 把現代資料中心形容成一座工廠,而產出單位是 token,並把產品路線圖綁在 token 吞吐量、token 經濟性與每瓦效能上(Data Center Frontier, 2026)。
三件事同時在發生:
- 推論超越訓練。 Deloitte 預估 2026 年推論將占全球 AI 算力約三分之二,高於 2025 年的約一半與 2023 年的三分之一(Deloitte, 2026)。訓練是專案收入,推論是隨用量累積的經常性收入。
- 計價單位從 GPU 小時走向 token。 NVIDIA 指出真正的經濟轉折點,是業者在基礎設施之上疊上 token 計量的模型與應用,開始賣 AI 產出而非基礎設施時數(NVIDIA Technical Blog, 2026)。中國電信商已推出依用量計費的 AI token 訂閱方案(Omdia, 2026)。
- 電力決定產出上限。 當產出以 token 計、容量受電力限制,每單位電力能換到多少 token 就決定了收入天花板。這也是稼動率在 2026 年從工程題變成財務題的原因:閒置的加速器不會停止耗電,卻產不出任何可計費的東西。
蓋好不等於能服務:GPU 上架到開始計費的落差
自建業者最容易誤判的一件事:硬體與廠房驗收完成,不等於可以開始服務客戶。從 GPU 上架到發出第一張發票之間,還需要異質算力調度、多租戶、API 存取、使用量計量與計費對帳。
這個落差已經反映在業界數據上:
- Cast AI 分析約 23,000 個企業 Kubernetes 集群的實測遙測資料,企業平均 GPU 稼動率約 5%,配置容量是實際用量的約 20 倍(Cast AI, 2026)。
- VentureBeat Research 調查 573 位技術主管,86% 自由運行 GPU 基礎設施的企業回報稼動率在一半以下(VentureBeat Research, 2026)。
- 業界分析指出,消費層(consumption layer)的缺口通常讓業者損失 6 到 12 個月的時間與收入(Supercomputing Frontiers, 2026)。
這些數字反映的不是硬體不足,而是運營能力沒跟上。
自建的四個缺口:稼動率、多租戶、計量計費、上線時間
AI 資料中心可以分成三層:機電與硬體、算力管理、運營與變現。自建業者在第一層能力成熟,第二層勉力支應,第三層通常根本沒進入規劃。白皮書整理的四個缺口,全部落在後兩層。
| 缺口 | 影響 |
|---|---|
| 算力稼動率不足 | 投資案的進駐率假設落空,回本期後移;閒置設備持續產生成本 |
| 多租戶與治理不足 | 一次只能服務單一大型客戶,客戶集中風險高,計價退回按機櫃計費 |
| 缺少使用量計量與計費 | 對收入最直接的缺口;只能改月費定額,或人工估算而無稽核依據 |
| 客戶上線與開業時間 | 硬體從驗收日開始攤提,收入卻要等運營層就緒 |
第四點的財務意義最容易被低估。以設備投資 3 億元、五年攤提計,每月攤提約 500 萬元;若運營層比預期晚六個月上線,直接損失就是 3,000 萬元,還不含市場機會成本。(此為試算示例,實際評估請代入自家數字。)
AI 雲運營層該自建還是採購?
機電、冷卻、網路向來向專業業者採購,而運營層有完全相同的三個特徵:需要長期維護(模型世代、客戶需求、法規都在變)、與硬體世代緊耦合(重建不會因此增值)、複雜度隨規模陡升(服務 3 個租戶與 300 個租戶是兩種系統設計)。
數位無限的兩個產品對應的正是這兩層:
- AI-Stack 是算力管理平台,以軟體定義 GPU 與調度技術提升稼動率,並把異質算力納入統一管理——對應算力管理層的稼動率問題。
- ixCSP 是 AI 雲運營平台,在 AI-Stack 之上整合 AI Gateway 與 Token 計費系統,提供多租戶、計量、計費與服務目錄,支援 GaaS、MaaS、TaaS 三種商業模式——對應運營層的變現問題。
兩者可以隨專案進展分階導入,也不需要新建機房:先把閒置或低稼動的 GPU 納入管理、驗證運營模式,再隨容量擴充放大規模。
下載白皮書:AI 資料中心關鍵缺口與解決方案
《從基礎設施到 Token Factory:AI 資料中心自建業者的關鍵缺口與解決方案》完整版含四個缺口的完整論述、運營層三層參考架構、依廠房生命週期分階的導入規劃,以及實例,填寫表單即可下載!