AI-Stackで行政機関のAI導入に伴う計算リソースの遊休とガバナンス課題をどう解決するのか

台湾の地方政府でAI導入が加速する一方、計算資源の管理が追いついていない

台湾の国家発展委員会は、「AIソブリンおよび計算基盤の整備」と「スマート政府に向けたデータガバナンス」を、政府のAI発展における中核的な枠組みに位置付けています。さらに、「AI新十大建設」を通じて、地方政府によるAIインフラへの投資を加速させています。

しかし、多くの地方政府では、GPUを導入する際に、現在も「各部門が個別に調達し、個別に管理する」という従来型の運用を続けています。AIの利用規模が小さい段階であれば、この方法でも対応できます。しかし、AIサービスを導入する部門が増えるにつれて、構造的なリソースの無駄が表面化します。

• リソースのサイロ化：各部門がGPUを個別に管理しているため、部門間で計算リソースを融通できません。利用が少ない時間帯には大量のGPUが遊休状態になる一方で、電力料金やデータセンター設備の減価償却費は発生し続けます。
• プロジェクトの待ち時間：同じGPUを複数の業務やプロジェクトが利用する場合、処理の順番を待たなければなりません。緊急性の高い行政業務であっても、必要な計算リソースを優先的に確保できない可能性があります。
• 可視化の不足 ：IT管理者が、「現在、誰がGPUを使用しているのか」「どの程度の計算リソースを使用しているのか」を正確に把握できません。実際の利用状況を確認できないため、次年度の設備調達も、客観的なデータではなく経験や感覚に頼った判断になりがちです。
• ガバナンスの空白：クォータ管理やアクセス権限の分離が行われていなければ、機密性の高い行政データと一般業務のデータが、同じ計算環境で処理される可能性があります。これは、情報セキュリティや監査の観点からも無視できないリスクです。

AI-Stack：分散したGPUを一つの共有計算リソースプールへ統合 

INFINITIXのAI-Stackは、オンプレミス環境向けに設計された、異種計算リソースのオーケストレーション・管理プラットフォームです。AIインフラのミドルウェアとして、行政機関全体で利用できる「GPUリソースプール」の構築を支援します。分散している計算リソースを一元管理し、需要に応じて動的に割り当てることで、リソース配分の最適化を実現します。

AI-Stackは、下位レイヤーの計算リソースと、上位レイヤーのAIアプリケーションや開発環境をつなぐ役割を担います。下位レイヤーでは、NVIDIAやAMDのGPU、NPUなどの異種計算リソースに加え、ストレージや計算クラスターを統合管理できます。上位レイヤーでは、標準化されたAPIと一貫した開発環境を提供します。

この仕組みによって、データサイエンティスト、AIエンジニア、各業務部門は、さまざまなAIツールやオープンソースフレームワークへ迅速にアクセスし、AIアプリケーションの開発と導入を加速できます。 

AI-Stackは、管理者向けのポータルと、使用者向けのポータルから構成される二層構造を採用しています。

管理者ポータル｜AIリソースを一元的に統制し、安全性と効率性を確保 

• リソースクォータ管理：プロジェクトや部門ごとに、GPU、vCPU、RAMの利用上限を設定できます。各組織の用途や優先度に応じた、きめ細かなリソース管理を実現します。
• リソース回収機能：使用されていないGPUの自動回収や、一定時間経過後のコンテナの自動削除に対応します。利用されていないリソースが長期間占有されることを防ぎ、計算リソースを必要な業務へ再配分できます。
• リアルタイム監視と分析 ：ダッシュボードを通じて、組織全体のGPU使用率、リソースの稼働状況、ユーザーの利用傾向をリアルタイムで確認できます。利用状況を可視化することで、設備の追加調達やリソース配分を、実際のデータに基づいて判断できます。
• 情報セキュリティとガバナンス：プロジェクトごとのデータ分離、階層型のロール・権限管理、操作監査ログ、二要素認証に対応しています。行政機関に求められる情報セキュリティ管理と監査要件を支援します。

使用者ポータル｜計算リソースを動的に割り当て、AI開発運用を加速 

• 柔軟なGPU使用方式：
  • 共有モード：複数のコンテナが同じGPUを同時に利用できます。日常的なAI推論処理など、GPU全体を占有する必要がない業務に適しています。
  • 専有モード：一つの業務やプロジェクトに、GPU全体を割り当てます。大規模な演算処理や、高い性能が求められるAIワークロードに対応します。
  • クロスノード計算：複数のノードに搭載されたGPUを統合し、一つのジョブへ割り当てます。大規模AIモデルや複雑なAIワークロードの学習・推論を支援します。
• AI開発環境の迅速な構築：標準化されたAI開発環境を、簡単な操作で構築できます。環境設定に必要な時間と作業を削減し、モデルの開発、検証を迅速に開始できます。。
• ジョブスケジューリング機能：緊急性の低いバッチ処理を、夜間など利用の少ない時間帯に自動実行できます。これにより、通常は利用されていないGPUリソースを有効活用できます。

活用シナリオ｜税務申告シーズンの一時的な需要増加に、追加のGPU調達なしで対応

毎年、税務申告の時期になると、地方政府の税務部門には短期間で大量のAI処理需要が集中します。総合所得税の確定申告に加え、家屋税、地価税、自動車使用ライセンス税などの地方税関連業務も集中して処理されます。その結果、申告書類のOCR認識、文書要約、RAGを活用した情報検索サービスなど、AIアプリケーションが必要とする計算リソースは、数週間のうちに急増します。

AI-Stackが提供する「リソース共有」「動的リソース配分」「オンデマンド利用」の仕組みを活用すれば、地方政府は年に一度の短期的なピーク需要に備えて、新たなGPUを追加購入する必要がありません。既存GPUの稼働率を高めながら、AIインフラへの投資と運用コストを抑え、重要な行政サービスの安定稼働を確保できます。

導入効果｜計算リソースの利用効率を高め、AIインフラへの投資を最適化 

AI-Stackの実際の導入実績では、行政機関がリソースプール化、インテリジェントオーケストレーション、自動化管理を導入することで、GPU投資の効果を高められることが確認されています。 

• GPU稼働率を30％から90％へ向上 

GPUリソースの分割、共有オーケストレーション、利用の少ない時間帯におけるバッチジョブ管理を組み合わせることで、遊休状態の計算リソースを大幅に削減します。新たなGPUを買い足す前に、既存GPUを使い切ることができます。

• AI開発環境の構築時間を数日から1分へ短縮 

標準化されたコンテナ環境と自動化されたデプロイプロセスにより、AI開発、テスト、モデル検証に必要な環境を迅速に構築できます。エンジニアはインフラの設定作業ではなく、AI運用開発に集中できます。

• 投資対効果（ROI）を10倍に向上 

部門をまたいでGPUリソースを共有することで、同様の設備を各部門が重複して購入する必要がなくなります。ハードウェア投資と運用・保守コストを削減し、既存のAIインフラが持つ価値を最大限に引き出します。