NVIDIA Corporation

Brev上のNeMo-RL実験で、ログやチェックポイント、共有キャッシュの保存先と認証情報を管理し、ディスク容量を確認しながら長時間ジョブを運用するスキル。

• 長時間学習の保存先を準備したいとき
• 実験間でキャッシュを共有したいとき
• W&BやHugging Faceの認証付き実行

NeMo-RLの文書追加・更新に合わせて目次を整え、関数やクラスの説明をGoogle styleのdocstringにそろえるための執筆・レビュー用スキルです。

• 新しい文書と目次を追加したいとき
• Markdown改名後に目次を直したいとき
• 関数やクラスの説明書式を確認したいとき

NeMo Relayで記録した処理の動きを、用途に合う形式で出力する設定を支援します。イベントや実行履歴、トレースの選択から出力確認まで扱います。

• ローカルで生のイベントを調べたいとき
• ATIF形式で実行履歴を保存したいとき
• OpenTelemetry出力の設定

Nemotron Speechの音声認識を業界用語や言語に合わせるため、データ量や予算から改善手法を選び、データ準備・学習・評価・配備の進め方を整理するスキル。

• 専門用語の認識を改善する方法選び
• アクセント・雑音・別言語への適応計画
• 必要な音声量・GPU・時間・費用の検討

NemoClawの導入・設定・運用や障害対応を、公式ドキュメントに基づいて案内します。利用するエージェントの種類や環境に合う手順を調べ、出典と確認方法を示すスキルです。

• 利用する種類に合わせて導入したいとき
• 推論先やモデルを設定したいとき
• サンドボックスの障害を調べたいとき

Megatron Bridgeの学習でGPU処理を記録・再実行するCUDA graphsを設定し、適用範囲や制約を確認して速度とメモリ使用量を検証するスキルです。

• 反復全体か部分的な記録かを選びたいとき
• dense・MoE学習の適用範囲設定
• 設定変更後のクラッシュを調べたいとき

Nemotronの検索モデルを対象に、関連文書の見落としや順位の乱れを切り分け、追加学習・評価・配備に向けた設定確認と実行コマンドの作成を支援します。

• 関連文書の見落としを調べたいとき
• 検索結果の順位を改善したいとき
• 学習コマンドを事前確認したいとき

Nemotronのデータ整備・翻訳・追加学習・評価などを既存の処理から組み立て、工程間の入出力やGPU条件を確認して実行用の設定を作るスキル。

• モデルとデータを指定してLoRA学習
• データ準備と追加学習をつなぎたいとき
• 公開済みモデルの性能評価

NeMo-RLやNeMo-gymの学習設定を改善するため、仮説ごとの実験、評価指標の比較、gitとTSVによる記録を、人の確認を挟みながら進めるスキル。

• 学習設定の仮説を検証したいとき
• 精度・報酬・処理量の比較
• 再現可能な実験履歴の記録

Megatron-Bridgeで学習データを並列処理するMegatron FSDPを有効にし、必要な設定、保存形式、併用制約を確認して動作検証まで案内します。

• DDPからMegatron FSDPへの切り替え
• FSDP設定変更後のメモリ不足調査
• 保存形式と併用できない設定の確認

NeMo Relayで並行処理の記録が混ざらないよう、リクエストやエージェントごとに処理範囲を分離します。非同期処理やスレッドをまたぐ親子関係の引き継ぎも支援します。

• 並行リクエストの記録を分けたいとき
• 非同期処理やスレッド間の親子関係維持
• 処理限定のミドルウェアの漏れ防止

Megatron Bridgeで長い入力を扱うMoEモデルの学習に向けて、並列化の規模や再計算、データの振り分け方式を検討し、メモリー不足や速度低下を調べます。

• 長い入力のMoE学習設定を検討
• 長文脈学習のメモリー不足を調べたいとき
• コード変更後の学習速度低下を調査

H100・B200・GB200・GB300でMoEモデルを学習する際の設定候補と性能の目安を示し、並列化や通信方式、メモリ対策の比較検証を支援するスキル。

• GPU構成に合うMoE学習設定を選びたいとき
• 通信方式と並列化構成を比較したいとき
• 学習性能の大まかな目安を知りたいとき

Megatron Bridgeの分散学習で、停止や遅いGPUを検知し、障害後の再起動を設定する手順を案内します。中断時の処理や学習状態の保存、復旧不良の調査も扱います。

• 学習障害からの自動復旧を設定
• 分散学習で遅いGPUを検出
• ジョブの時間制限による中断への備え

NeMo Relayを初めて試す人に向け、CLIや既存の連携機能、Pythonなどでの最小構成を選び、ツールやモデルの呼び出しを記録できるか確認します。

• CodexやClaude CodeでCLIから試す
• 既存アプリに合う連携方法の選択
• アプリのツール・LLM呼び出しの記録確認

Megatron-Bridgeで長い入力を複数GPUに階層的に分割して学習する設定を案内し、必要条件や実装箇所、ログでの有効化確認を整理するスキル。

• 階層型コンテキスト並列の設定
• KVヘッド数を超える並列化
• 設定変更後のメモリ不足の調査

NeMo Relayの導入先を用途に合わせて選び、CLIや各言語パッケージ、対応フレームワーク連携のインストールと基本的な利用確認を進めるスキル。

• CLIで一時的に試したいとき
• 既存アプリへのパッケージ導入
• 対応フレームワークへの連携導入

Megatron-BridgeでMoEの通信と計算を並行実行する設定を検証し、互換性の確認や性能比較を通じて学習速度の改善を試すスキル。

• MoE学習の通信重複を有効にしたいとき
• DeepEP・HybridEPの互換性確認
• 通信重複と勾配計算遅延の比較

Megatron BridgeのMoE学習で、処理を分担するエキスパート間の通信と計算を重ねる設定を案内し、有効化の条件や設定の競合、性能比較の方法を整理するスキル。

• トークンの振り分け・集約待ちの削減
• エキスパート間の通信重複条件の確認
• flex設定と通信重複の競合解消

NeMo Relayで、アプリの型付きデータとJSONの変換を設計します。ミドルウェアによる変更や呼び出し元への応答を保ちながら、適切な変換処理を選びます。

• 既存のドメインモデルを連携したいとき
• Python・Node.jsの変換処理選定
• LLM提供元のデータを検査したいとき

外部のエージェント実行環境をNVIDIA NeMo Fabricにつなぐアダプターを開発・移行・レビューします。設定変換、起動と終了、配布用メタデータ、動作検証まで扱います。

• 外部エージェント用アダプターの開発
• 公開仕様に合わせた既存実装の移行
• 設定変換と実行状態の分離のレビュー

NeMo AutoModelの学習・評価手順を作成・修正し、YAML設定と構成要素の組み立て、検証・保存・再開の流れを整理するスキル。

• 新しい追加学習レシピの作成
• YAMLの設定項目を追加したいとき
• 検証・保存・再開の設定

画像と言語を扱うMoEモデルの学習で、FSDPと3D並列化の選択、メモリ不足への対処、実画像データを使った性能比較や設定調整の進め方を案内します。

• 新規モデルの並列学習方式を選びたいとき
• 学習失敗やメモリ不足の原因調査
• 実画像入力での性能比較

Megatron Bridge の学習時に起こるGPUメモリ不足を調べ、メモリの断片化対策、LoRAの保持データ削減、再計算や並列処理設定の調整を案内します。

• 学習中のGPUメモリ不足を調べたいとき
• LoRA学習の入力保持量削減
• 大規模学習前のメモリ見積もり