エヌビディア、AIファクトリーの運用基盤「Minerva」を発表 故障予測と原因特定を支援

　エヌビディアは10月22日（米国時間）、AIファクトリー（AIデータセンター）の運用データを一元的に分析し、不具合の早期発見と原因の特定を支援するAIOps（AIによるIT運用）プラットフォーム「NVIDIA Minerva」を発表した。同日に提供を始めた。

　同社はAIファクトリーの「歩留まり」を高めることを目的に掲げる。GPUの稼働時間、有効な計算の割合を示すグッドプット、クラスターの稼働率、トークン（AIが扱う文字の単位）の生産量で測る、インフラの有効な出力を指す。

　Minervaは、GPU、ネットワーク、ストレージ、スケジューラー、AIワークロードのテレメトリー（稼働データ）を統合する。GPU、SuperNIC、スイッチ、ケーブルと、その上で動くジョブの関係を動的なナレッジグラフ（関係図）として描き、遅いジョブの原因となっている部品までたどれるという。数十万基のGPUを持つ施設でも同様だと説明している。

　教師ありと教師なしの機械学習で、1時間に数十億件のデータを分析する。通常時の挙動を学習し、未知の異常の検知、故障の予測、関連するイベントの相関付けを行う。大量のアラートは、推定される根本原因を添えた少数のインシデントにまとめる仕組みだ。

　AIアシスタントを標準で備え、外部のエージェント型AIツールとも接続できる。運用担当者は自然言語で状況を調べ、対処案を受け取れる。人が確認して修復する運用のほか、インフラのAPI（連携用の窓口）を通じた自動修復にも対応する。

　エヌビディアは効果として、中断までの間隔の延長、修復までの時間の短縮、不要なアラートの減少を挙げた。

　利用実績では、IRENが先行して使っている。同社の最高技術責任者（CTO）のデニス・スクリニコフ氏は「ネットワーク、GPU、実行中のジョブを1つの画面で見られ、トラブル対応より予防保守に力を注げる」と述べた。Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI、テスラが導入を予定する。デル・テクノロジーズ、レノボ、スーパーマイクロも、自社のAIファクトリー運用向けの製品群の一部として提供する。

　エヌビディアは10月21日にも、AIファクトリーを出荷前に統合する参照設計「DSX POD」を発表している。