為什麼大家突然都在講 Token Factory？

你每次問 ChatGPT 或 Claude 一個問題，螢幕上那一段段跳出來的文字，其實都是某座「工廠」剛生產出來的產品。這座工廠不冒煙、不需要生產線工人，它的名字叫 Token Factory（token 工廠）。

2026 年 3 月 16 日，NVIDIA 執行長黃仁勳在美國聖荷西的 GTC 2026 主題演講中，把資料中心重新定義為生產 AI token 的工廠，還給企業主一條公式：營收 = 每瓦 token 產量 × 可用電力（GW）。從那之後，「token factory」從工程師的行話，變成科技媒體、電信商與資料中心業者的共同語言。

訓練一個模型是一次性的大工程，但推論是全年無休——每一次對話、每一個 AI agent 動作、每一次 API 呼叫，都在持續消耗 token。當 AI 的主戰場從「把模型訓練出來」轉向「把 token 賣出去」，我們就需要一個新詞來描述這種基礎設施。這篇文章會帶你從零開始，搞懂 token factory 是什麼、怎麼運作、怎麼衡量，以及它如何成為一門生意。

先搞懂基本概念：什麼是 Token？

要理解 token factory，得先知道它生產的「token」是什麼。Token 是大型語言模型讀取與生成文字的最小單位——模型不是一個字一個字看，而是先用分詞器（tokenizer）把文字切成一塊塊 token，再轉成數字處理。

Token 怎麼切？中英文示範

  • 英文：「Token factory is amazing」大致會被切成 Token｜ factory｜ is｜ amazing 4 個 token。經驗法則是 1 個 token 約等於 4 個英文字母、或 0.75 個英文單字。
  • 中文：「什麼是 Token 工廠」可能被切成 什麼｜是｜ Token｜ 工｜廠。中文常見 1 個字對應 1 至 2 個 token，實際數量依模型的分詞器而定。

換句話說，同一段意思，用不同語言、不同模型表達，消耗的 token 數都不一樣——這也是為什麼繁體中文使用者特別值得關心 token 效率。

為什麼 token 可以被「計價」？

因為 token 是模型每一次運算的實際工作量。模型每讀進一個 token、每吐出一個 token，都要消耗 GPU 時間與電力，所以它成了最自然的計費單位。目前主流 AI API 幾乎都按 token 收費，邏輯有三點：

  1. 輸入與輸出分開計價：你送進去的提示詞（input tokens）和模型生成的回答（output tokens）各自計費。
  2. 輸出通常比較貴：生成 token 必須一個接一個依序算出來，比一次讀入整段輸入更耗算力。
  3. 以百萬 token 為報價單位：各家通常標示「每 100 萬 token 多少美元」，方便企業估算成本。

當 token 有了價格，它就成為一種可以量產、可以販售的商品——這正是「token 工廠」這個比喻成立的起點。

Token Factory 的定義

Token Factory 是把資料中心重新定位為「生產 AI token 的工廠」：它投入電力與資料，透過 GPU 與模型運算，持續產出 token。它的價值不在於存了多少資料，而在於每秒、每瓦、每塊錢能生產出多少 token。

用工廠來比喻

傳統工廠Token Factory
原料電力 + 資料（使用者提示詞、企業資料、即時感測資訊）
生產線GPU 叢集 + AI 模型 + 推論軟體
產品Token（文字、程式碼、圖像描述、agent 動作）
良率與產能延遲、吞吐量、每 token 成本
營收按 token 計費的 API 與 AI 服務

概念由來：黃仁勳的「AI 工廠」論述

「AI 工廠」是 NVIDIA 執行長黃仁勳近幾年反覆使用的說法。在 2025 年 3 月的 GTC 主題演講中，開場影片就已把 token 描述為 AI 的基本單位、AI 工廠的產出。

到了 2026 年 3 月 16 日的 GTC 2026（美國聖荷西），他把這個論述正式推向 token factory：把資料中心視為一座工廠，並提出「營收 = 每瓦 token 產量 × 可用 GW 數」的公式，主張未來每一家 AI 企業都會用「每單位能源能產出多少 token」來衡量基礎設施效率。同年 6 月的 GTC Taipei，他進一步表示 token 已成為 AI 公司的核心營收單位。

Token Factory 與傳統資料中心有什麼不同？

面向傳統資料中心Token Factory
核心任務儲存、傳輸、提供資料持續生產「智慧」（token）
主力運算CPU 為主GPU 與 AI 加速器為主
工作型態請求式、波動大推論全年無休、連續生產
衡量標準可用率、儲存容量、頻寬每秒 token 數、每瓦 token 數、每 token 成本
商業模式出租空間、機櫃、虛擬機販售 token、模型服務、GPU 算力

一句話總結：傳統資料中心像倉庫加物流中心，token factory 則是一座 24 小時運轉的智慧製造廠。

衡量一座 Token Factory 的關鍵指標

訓練叢集看的是原始吞吐量與長時間運算的容錯能力；token factory 看的是四個直接連到營收的指標。

指標意義為什麼影響營收
延遲從送出請求到第一個 token 出現（TTFT），以及每個 token 之間的間隔延遲太高，使用者會離開，即時語音與 agent 應用也做不起來
持續吞吐量整座叢集每秒穩定產出的 token 數決定同一批硬體能服務多少使用者、賣出多少 token
能源效率每消耗 1 瓦電力能產出多少 token電力是最大的變動成本，也是最難擴充的資源
每 token 成本硬體折舊、電費、維運攤到每個 token 的成本決定定價空間與毛利

為什麼「每瓦產出多少 token」成了新的競爭指標？

過去資料中心比的是機櫃數或 GPU 數，但現在真正的瓶頸是電力。一座資料中心能拿到的電力有上限，新的電網容量要好幾年才建得起來。在電力固定的前提下，誰能用同樣的電產出更多 token，誰就能賺更多。

可用電力（GW）短期內很難改變，所以業者能努力的變數只剩「每瓦 token 產量」——換更有效率的 GPU、用更好的推論引擎、做更精準的調度，最終都會反映在這個數字上。傳統的 PUE（電力使用效率）只看機房省不省電，tokens per watt 則直接衡量電力換來多少產出，因此越來越多 AI 資料中心把它當成核心效率指標。

商業模式：Token Factory 作為一種服務

蓋好一座 token factory 只是第一步，真正的難題是：怎麼把 GPU 變成可以收錢的服務？ 

要把算力賣出去，業者需要在硬體之上再加一層「營運系統」：多租戶隔離、按 token 計量、價目表與帳務。數位無限（INFINITIX）推出的 ixCSP，就是為了彌補這個缺口而設計的平台。

ixCSP 是什麼？

ixCSP 是一套 AI 雲端營運平台，協助企業、電信商與資料中心把現有 GPU 伺服器快速轉成可計費、可治理的 AI 雲端服務。

三種「賣算力」的方式：GaaS、MaaS、TaaS

模式賣的是什麼適合的客戶
GaaS(GPU as a Service)按時數或規格出租 GPU 算力需要自己訓練或部署模型的 AI 團隊
MaaS(Model as a Service)部署好的模型服務，開箱即用想直接導入 AI、不想管底層的企業
TaaS(Token as a Service)按 token 用量計費的 API開發者、SaaS 業者、agent 應用

誰最需要這樣的平台？

  • 電信商：手上有機房、電力與企業客戶，想從「網路管線」升級為 AI 服務供應商。
  • 資料中心與 AIDC 業者：想從出租機櫃，轉型為販售 token 與模型服務。
  • 大型企業集團：擁有閒置算力的企業可透過 ixCSP，把算力分享給集團內部團隊、子公司，甚至上下游夥伴使用。

總之，ixCSP 的角色是把 GPU 從成本中心轉成營收平台——讓 token factory 不只會生產，也會做生意。

結語：Token 會成為 AI 時代的新「電力」嗎？

回到開頭：你每問 AI 一個問題，背後就有一座 token factory 替你生產答案。一百多年前，發電廠把煤炭變成電，電再驅動了工廠、交通與家家戶戶的生活；今天，token factory 把電變成 token，token 再驅動客服、寫程式、研究與各種 AI agent。

Token 和電力有幾個相似之處：都能被精準計量、都按用量計價、都需要龐大的基礎設施，而且一旦普及，就會隱身在所有服務背後。差別在於，電力是同質的，一度電就是一度電；token 的品質卻因模型而異。這意味著未來的 token factory 不只比產量與價格，也會比「生產出什麼樣的智慧」。

可以預見的是，算力、電力與營運能力，將決定誰能在這個新產業中站穩腳步。無論你是企業 IT 決策者、資料中心業者，或只是好奇 AI 背後如何運作的讀者，現在都是理解 token factory 的最好時機。

💡 免費白皮書下載

《從基礎設施到 Token Factory：AI 資料中心自建業者的關鍵缺口與解決方案》完整版含四個缺口的完整論述、運營層三層參考架構、依廠房生命週期分階的導入規劃，以及實例，填寫表單即可下載！

常見問題 FAQ

Q1：Token Factory 是什麼？ Token Factory（token 工廠）是把資料中心重新定位為生產 AI token 的工廠：投入電力與資料，透過 GPU 與模型推論，持續產出 token，並以每 token 成本、每瓦 token 產量等指標衡量效率。

Q2：Token Factory 和 AI Factory 有什麼不同？ 兩者經常混用。AI Factory 是 NVIDIA 較早使用的廣義說法，涵蓋訓練與推論；Token Factory 更聚焦在推論階段，強調「token 就是產品」的生產與計價邏輯。

Q3：誰提出 Token Factory 這個概念？ NVIDIA 執行長黃仁勳在 2026 年 3 月的 GTC 2026 主題演講中，把資料中心定位為 token 工廠，並提出「營收 = 每瓦 token 產量 × 可用 GW 數」的公式。

Q4：如何衡量一座 Token Factory 的效率？ 主要看四個指標：延遲、持續吞吐量、每瓦 token 產量（tokens per watt）與每 token 成本。

Q5：企業如何把現有 GPU 變成 Token Factory 服務？ 除了硬體與推論引擎，還需要多租戶管理、API 閘道與按量計費系統。像 ixCSP 這類 AI 雲端營運平台，就能協助企業以 GaaS、MaaS、TaaS 等模式把 GPU 算力商業化。