生成AIが急速に普及するなか、企業によるAI投資のスピードは、管理・統制の仕組みづくりを大きく上回っています。大規模言語モデル（LLM）やAIエージェント、GPUインフラに至るまで、AIは企業のIT環境に欠かせない存在となりつつあります。Gartnerは、2026年の世界のAI関連支出が2兆5,900億ドルに達し、前年比47％増加すると予測しています。そのうち、AIインフラへの支出は45％を超えます。しかし、多額の投資が、そのまま有効活用につながるとは限りません。

Cast AIの《2026 State of Kubernetes Optimization Report》によると、企業におけるGPUの平均稼働率はわずか5％です。また、FinOps Foundationの《State of FinOps 2026》では、73％の企業がAI関連支出で予算を超過していることが明らかになっています。AIの導入が進む一方で、企業はこれまでにない管理上の課題に直面しています。コストを抑えながら、AIの安全性とコンプライアンスを確保し、誰が、いつ、どのリソースを利用したのかを追跡できる環境を、どのように構築すればよいのでしょうか。

AIがIT管理の新たな中核に、急速に融合するFinOpsとAIガバナンス

これまで企業が主に管理してきた対象は、SaaS、クラウドリソース、ソフトウェアライセンスなどでした。現在は、AIモデル、GPUの計算性能、トークン使用量、AIアプリケーションも、管理対象に含まれるようになっています。Flexeraの《2026 State of ITAM Report》では、世界のIT資産管理担当者512人を対象に調査を実施し、次のような結果を報告しています。

  • 84％の企業が、「新しいAIアプリケーションの追跡または導入」を現在の最大の総合的な課題として挙げている
  • 47％の企業が、今後数年間でAIソフトウェアへの投資を大幅に増やすと予想している
  • 完全な可視性を確保できているAIソフトウェアは、わずか31％にとどまる
  • 78％の組織が専任のFinOpsチームを設置しており、ITAM（IT資産管理）とFinOpsの連携や責任範囲の重なりが増えている

この傾向は、FinOpsの管理範囲がクラウドだけでなく、SaaS、ソフトウェアライセンス、プライベートクラウド、データセンターへと広がっていることを示しています。その結果、FinOpsと従来のIT資産管理との境界は、急速に重なりつつあります。同時に、調査では「トークン数、LLMへのリクエスト数、GPU使用率など、AIの利用状況を細かく追跡する能力」が、企業に最も不足している一方で、最も必要とされている能力であることも明らかになっています。

これらのデータが示しているのは、AI管理における重要な変化です。AIの管理は、単なるIT運用から、FinOpsによるコストガバナンスと、AI Governanceによる統制を並行して進める新しいモデルへ移行しています。企業が重視するのは、もはや「AIが動くかどうか」だけではありません。

  • GPUは効率的に利用されているか？
  • どの部門が最も多くのトークンを消費しているか？
  • AIの利用は企業のセキュリティポリシーに沿っているか？
  • AIへの投資は、実際のROIにつながっているか？

こうした問いに、データを基に答えられる管理環境が必要になっています。

AI導入は進むが、ガバナンスが追いつかない 

多くの企業では、AIを導入した後、次のような問題が発生しています。

1. AIコストが急増しているが、何に使われているか分からない 

GPU、推論サービス、モデルAPI、トークンの消費量は急速に増加しています。しかし、それらを一元的に把握できるコスト管理の仕組みは、十分に整備されていません。そのため、IT部門は次のような質問に答えられない状況に陥ります。

  • どの部門が最も多くのGPUを利用しているのか？
  • どのモデルのコストが最も高いのか？
  • どのAIエージェントが最も多くのトークンを消費しているのか？

これは、FinOps Foundationが報告した「73％の企業でAI支出が予算を超過している」という結果とも一致します。根本的な原因は、リアルタイムかつ細かな単位で利用状況を追跡できていないことにあります。

2. GPU使用率が低く、多くのリソースが遊休状態になっている 

企業購置大量GPU，卻因資源分散、缺乏統一調度，導致GPU閒置、重複申請資源、部門彼此搶佔算力。Cast AI的分析顯示，這不是個案而是普遍現象——平均使用率僅5%，意味著昂貴的AI基礎設施大多沒有發揮應有效益。

企業が高価なGPUを大量に導入しても、リソースが部門ごとに分散し、統一的なスケジューリングが行われていなければ、十分に活用することはできません。その結果、次のような問題が発生します。

  • GPUが利用されないまま放置される
  • 同じ用途のリソースを複数部門が重複して申請する
  • 部門間でGPUリソースの取り合いが発生する

Cast AIの分析によると、これは一部の企業だけの問題ではありません。GPUの平均使用率がわずか5％という結果は、高価なAIインフラの多くが、本来期待される効果を発揮できていないことを意味します。

3. AI利用のガバナンスと追跡性が不足している 

各部門が独自にAIツールを導入することで、企業内では次のような問題が広がっています。

  • 管理されていないAIツールを利用する「シャドーAI」
  • APIキーの分散管理
  • AIモデルのバージョン管理の混乱
  • アクセス権限や監査機能の不足
  • 機密データが外部へ流出するリスク

AIの導入スピードが速くなるほど、ガバナンス上のリスクも高まります。

4. FinOps部門とIT部門の認識が異なり、責任範囲が曖昧になる 

ITAMとFinOpsの役割が重なり始めるなかで、両部門がそれぞれ別の利用状況レポートやコストレポートを管理するケースも増えています。共通のデータ基盤がなければ、AI支出やリソース利用について、統一した判断を行うことは困難です。問題が発生した際に、誰が責任を持つのかも不明確になります。

AI-Stack ソリューション：AIインフラ、FinOps、ガバナンスを統合した信頼できるAIプラットフォーム

AI-Stackは、GPUリソースのオーケストレーションとAIインフラ管理を行うためのソフトウェアです。GPU、AIモデル、ユーザー権限、ワークロードを単一のプラットフォーム上で統合管理し、効率性、可視性、ガバナンスを備えたAI基盤の構築を支援します。この仕組みによって、FinOpsによるコスト最適化と、AI Governanceによる安全な管理・統制を実現します。

  1. 異種計算リソースの統合管理

AI-Stackは、NVIDIAおよびAMDのGPUに加え、Phison aiDAPTIV+やNPUなどの異種計算リソースを統合管理できます。GPUの分割・集約、インテリジェントスオーケストレーション、自動割り当てによって、GPU全体の使用率を高め、遊休コストを削減します。これは、業界全体で見られる「GPU平均使用率5％」という課題に直接対応するものです。

  1. AIリソースの可視化とモニタリング

AI-Stackは、リソースの監視機能と可視化ダッシュボードを提供します。GPU、CPU、VRAMなどの使用状況に加え、プロジェクトごとの利用状況やユーザーの操作履歴をリアルタイムで確認できます。その結果、AIリソースを可視化し、追跡可能で管理できる状態にします。企業がFinOpsを実行するために必要な、共通の管理基盤を構築できます。

  1. AIガバナンス

AI-Stackは、企業のAI利用に必要なガバナンス機能を提供します。主な機能は次の通りです。

  • Role-Based Access Control（RBAC）による権限管理
  • Audit Logによる監査記録
  • マルチテナント機能
  • AIモデルへのアクセス権限管理
  • コンテナによるワークロードの分離

これらの機能により、企業全体で統一された、安全かつ監査可能なAI利用環境を構築できます。シャドーAI、アクセス権限の管理不足、機密データの流出といったリスクの低減にもつながります。

AI-Stackが企業にもたらす価値

AI-Stackは、企業が重視するコスト、効率、ガバナンスを単一のプラットフォームに統合します。AIを単に動かすだけではなく、長期的かつ安定的に、管理された状態で拡張できる環境を実現します。

企業が抱える課題 AI-Stackが提供する価値 
GPU使用率が低い GPUの仮想分割、インテリジェントオーケストレーション、リソース共有により、全体の使用率を向上 
AIコストを追跡できない GPU、プロジェクト、部門ごとのコストを可視化 
複数部門で共同利用したい クォータ管理、マルチテナント分離、需要に応じたリソース割り当て 
AIガバナンスが不足している RBAC、Audit Log、プロジェクトおよびモデルのアクセス権限管理 
AI環境が急速に拡大している単一のプラットフォームでAIインフラとワークロードを管理し、運用の複雑さを軽減 
FinOpsを実行できない AIコスト管理、利用状況分析、リソース最適化の仕組みを構築し、IT部門とFinOps部門で共通利用 

まとめ：AIの次の段階は、導入ではなくガバナンス 

企業はAIへの投資を加速させる一方で、可視化の不足、コスト管理の難しさ、ガバナンス整備の遅れといった課題に直面しています。AI-Stackは、AIインフラ管理、GPUリソースのオーケストレーション、FinOpsによるコスト管理、AIガバナンスによる統制機能を統合します。これにより、企業は可視性が高く、制御可能で、拡張性を備えたAI運用モデルを構築できます。

AIを単なる技術投資で終わらせるのではなく、継続的にビジネス価値を生み出す中核インフラへと変えることが可能になります。