サポート
AI-Stackの最新機能のご紹介とよくある質問。製品の特長と詳細な使用方法について、詳しく説明します。
日中英あわせて5,100件のテストデータを用い、Jevを含む10種類の判定モデルについて、トピック分類とコンテンツセーフティの両タスクにおける精度、レイテンシ、量子化の影響を実測しました。生成型LLMガードとの比較も交え、クラウドとオンプレミスそれぞれの選定指針をご紹介します。
AI学習はマルチノード化・大規模化が急速に進み、企業はリソーススケジューリング、運用管理、GPU障害という3つの課題に直面しています。本記事では業界動向と既存手法の限界を解説し、Slurm on K8sのアーキテクチャと、INFINITIX AI-Stackの学習中断自動復旧によって障害からの復旧時間を分単位まで短縮する仕組みをご紹介します。
「LLMベンチマーク」には2つの意味があります。1つは能力ベンチマーク(MMLUやHumanEvalなど)で、モデルの答えが正しいかを測ります。もう1つは推論性能ベンチマークで、特定のハードウェアと推論エンジンで動かしたときの速さと、同時に使える人数を測ります。本記事で扱うのは後者です。
本記事では、AI-Stack上でRCS機能とvLLMを組み合わせて、google/gemma-3-1b-it 言語モデルをデプロイする手順を一つずつ実演します。
高いセキュリティが求められる共有AI基盤では、Network Policy は Ingress / Egress をどのように制御しますか?適切なネットワークアクセス制御がない場合、ワークロードが不要なサービスやネットワークリソースにアクセスする可能性があり、不正アクセス、データ漏洩、ラテラルムーブメント(Lateral Movement)などのリスクが高まります。
INFINITIXは、この弾性分散学習をAI-Stackにシームレスに統合しており、Horovod、DeepSpeed、Megatron-LM、Slurmといった主要なフレームワークをサポートしています。本記事では、AI-Stack上でHorovodを使って弾性分散学習を実行する手順を、ステップごとにご紹介します。
Kubeflowを使用している多くの開発者は、依然としてGPUリソースを分割できないという問題に直面しています。この記事では、InfinitixのixGPUモジュールを使ってKubeflowのGPU分割を行う方法を手取り足取り教えます。
KubeflowはKubernetesベースのオープンソース機械学習プラットフォームとして、近年、機械学習分野でますます普及しています。InfinitixのixGPUモジュールは、開発者がKubeflow上でGPUリソースを自由に分割することを可能にします。
AI-Stackは、企業向けのAI応用のために設計された包括的なプラットフォームであり、高効率な開発環境、精密なリソース管理、安定したインフラ基盤を提供します。本記事では、AI-Stackのアーキテクチャを詳細に解説し、そのコア機能と強みを徹底的にご紹介します