製品
/
開発レイヤー とエコシステムレイヤー
開発レイヤー とエコシステムレイヤー
AI開発エコシステムを統合し、ワンクリックでモデル開発を開始
大規模モデルの学習と推論を全面的に加速
ノードを横断する分散コンピューティング
AI-Stack は単一のプラットフォームで GPU リソースプールを管理し、ノード間の協調演算を提供。マルチノード学習と大規模推論を柔軟に支援し、リソース利用率とデプロイの柔軟性を高めます。
分散学習(Distributed Training)
- DeepSpeed、Slurm on Kubernetes、など、主要な学習フレームワークとワークフローに対応。
- 直感的な GUI から、マルチノードクラスタを簡単に構築。
- インテリジェントなスケジューリングにより、計算リソースの待ち時間を短縮し、スケジューリングのデッドロックを防止。
- 自動復旧とチェックポイントからの学習再開により、処理の中断と学習進捗の損失を最小限に抑制。
分散推論(Distributed Inference)
- Prefill/Decode(PD)分離に対応。
- 需要に応じて各フェーズを個別にスケーリング。フェーズごとに異なる GPU タイプを使い分け、レイテンシとハードウェアコストのバランスを最適化。
- レプリカ間のインテリジェントなルーティングとマルチノードでのモデルデプロイにより、高い同時実行数と超大規模モデルに対応。
開發層
AI開発を手のひらの上で!
たった1分でスタートできる
AI-Stackは、KubernetesとDockerを基盤にした直感的で効率的なワークスペースを提供し、AI開発環境をわずか1分で構築できます。開発者は設定作業に時間をかけることなく、すぐにモデル設計・学習・デプロイへ着手可能です。さらに、AI-Stackは主要な機械学習フレームワークとツールを統合。データ準備からモデルデプロイまでの一連のプロセスをサポートし、オンプレミスでもクラウドでも同じ使いやすさを実現します。
AI・LLM対応
PyTorch、TensorFlow、Deepspeed、vLLM、SGLangをはじめとする主要なAIフレームワークとLLM推論エンジンに幅広く対応しています。
簡単な環境設定
開発環境のセットアップと管理を迅速に行い、時間と工数を削減します。
ワークフローの自動化
AI-Stackは、モデルのトレーニングとデプロイプロセスを自動化することで、開発効率を向上させます。
エコシステムレイヤー
スケーラブルなAI開発プラットフォーム
オープンでパワフルなAIエコシステムを構築
幅広いサードパーティツールやプラットフォームとのシームレスな統合。 データベース、データ分析ツール、クラウドサービスプラットフォームと連携し、さまざまなフォーマットフレームワークでのモデルデータの保存をサポートすることで、包括的な機械学習ソリューションの構築を支援します。
AI-Stackの使い方を知りたい
さらに詳しい情報
開発とエコシステムレイヤー
開発とエコシステムレイヤー
AI-StacksでAIの未来を拓く
KubernetesとDockerをベースにしたAI-Stackは、開発者がモデルの設計、トレーニング、実験、デプロイに集中できる効率的で直感的な作業環境を提供します。 AI-Stackはまた、一般的な人工ニューラルネットワーク(ANN)や…
さらに詳しい情報
コントロールレイヤー
コントロールレイヤー
AI計算リソースとワークロードを可視化管理
AI-Stackは、AIインフラのミドルウェアとして、基盤となる異種計算リソースとAIアプリケーション/サービスをシームレスに連携します。リソースの一元管理、インテリジェントオーケストレーション、集中監視、体系的なガバナンス機能により、AI計算リソースとワークロードを可視化・最適化し、安定性と拡張性を備えた効率的なAIインフラ運用を実現します。
さらに詳しい情報
物理クラスタレイヤー
物理クラスタレイヤー
独自のチップとストレージ管理技術
あらゆる規模のAIワークロードを効率的に実行するために設計され、チップとストレージデバイスを正確に操作する独自のハードウェア制御技術を提供します。 1台のGPUサーバーでも複数のサーバーでも、リソースを…
さらに詳しい情報
開発とエコシステムレイヤー
AI-StacksでAIの未来を拓く
KubernetesとDockerをベースにしたAI-Stackは、開発者がモデルの設計、トレーニング、実験、デプロイに集中できる効率的で直感的な作業環境を提供します。 AI-Stackはまた、一般的な人工ニューラルネットワーク(ANN)や…
さらに詳しい情報
コントロールレイヤー
AI計算リソースとワークロードを可視化管理
AI-Stackは、AIインフラのミドルウェアとして、基盤となる異種計算リソースとAIアプリケーション/サービスをシームレスに連携します。リソースの一元管理、インテリジェントオーケストレーション、集中監視、体系的なガバナンス機能により、AI計算リソースとワークロードを可視化・最適化し、安定性と拡張性を備えた効率的なAIインフラ運用を実現します。
さらに詳しい情報
物理クラスタレイヤー
独自のチップとストレージ管理技術
あらゆる規模のAIワークロードを効率的に実行するために設計され、チップとストレージデバイスを正確に操作する独自のハードウェア制御技術を提供します。 1台のGPUサーバーでも複数のサーバーでも、リソースを…
さらに詳しい情報
開発とエコシステムレイヤー
AI-StacksでAIの未来を拓く
KubernetesとDockerをベースにしたAI-Stackは、開発者がモデルの設計、トレーニング、実験、デプロイに集中できる効率的で直感的な作業環境を提供します。 AI-Stackはまた、一般的な人工ニューラルネットワーク(ANN)や…
さらに詳しい情報
コントロールレイヤー
AI計算リソースとワークロードを可視化管理
AI-Stackは、AIインフラのミドルウェアとして、基盤となる異種計算リソースとAIアプリケーション/サービスをシームレスに連携します。リソースの一元管理、インテリジェントオーケストレーション、集中監視、体系的なガバナンス機能により、AI計算リソースとワークロードを可視化・最適化し、安定性と拡張性を備えた効率的なAIインフラ運用を実現します。
さらに詳しい情報
物理クラスタレイヤー
独自のチップとストレージ管理技術
あらゆる規模のAIワークロードを効率的に実行するために設計され、チップとストレージデバイスを正確に操作する独自のハードウェア制御技術を提供します。 1台のGPUサーバーでも複数のサーバーでも、リソースを…
さらに詳しい情報