sgl-project

複数GPUで動かすSGLangが停止した際に、スタックや通信ログ、プロセスごとの状態を比較し、処理の食い違いが始まる地点と原因を絞り込むスキル。

• 複数GPUの推論が止まる箇所の調査
• 分散プロセスのログ比較
• 状態の食い違いが始まる地点の特定

SGLangのGPU計算処理を追加・移動するときに、APIやテストの配置、登録情報、参照先を整理し、既存の動作とCI設定を保つための確認を進めるスキル。

• 新しいGPU演算の配置を決めたいとき
• 既存の演算ファイルを分割・移動したいとき
• API登録とテスト配置のレビュー

SGLangの起動ログを収集し、不要な重複や警告の発生源を調べます。必要な診断情報を残しながら、根拠となるログと改善案をまとめ、変更前に利用者の確認を求めます。

• 起動ログの重複を調べたいとき
• 残すべき警告を見極めたいとき
• モデルやGPU構成別のログ比較

SGLangの拡散モデルでノイズ除去の処理時間を測り、遅い演算や既存の高速化処理を調査して、品質を含めた改善前後の比較材料をそろえるスキル。

• 拡散モデルのノイズ除去時間を測りたいとき
• 実行記録から遅い演算を調べたいとき
• 既存の高速化処理が使えるか調べたいとき

SGLang Diffusionの画像・動画生成で、モデルやGPU、使えるメモリ量に合わせて実行オプションを比較し、速度と品質の両面から設定を選ぶスキル。

• モデルとGPUに合う生成設定の選定
• GPUメモリ使用量を抑えたいとき
• 複数GPUの性能設定を比較したいとき

SGLangの既存cookbookページを、モデル別の設定で動く共通テンプレートへ移行します。旧コマンドや選択肢、実測値を照合し、動作確認まで進めます。

• 旧形式のSGLang cookbook移行
• デプロイの選択肢をモデル別設定へ移す
• 再現可能なベンチマーク実測値の移行

SGLangのPRで指定したCIを最新コミットの成功まで監視します。失敗原因を切り分け、小規模な修正の反映や失敗ジョブだけの再実行を進めるスキルです。

• 指定したPRのCIを見届けたいとき
• コードとインフラの失敗切り分け
• 小規模な修正とCI結果の追跡

SGLangの画像生成処理にcache-ditを組み込み、更新や設定項目の追加を進めます。変更時の競合解消から、生成結果の画質比較、ログによる機能確認までを扱います。

• SGLangのcache-dit更新
• 更新元の変更を競合解消して移植
• リクエスト別キャッシュ設定の追加

Attribute GPU time in one sglang-omni stage to specific lines of `sglang_omni/` python source. Drives the `llm-torch-profiler-analysis` backend with a mapping/formal trace pair plus steady-state gates, and carries the rules for reading its three tables on an omni stage. Use when a stage is slower than expected and the question is which python code is the bottleneck, not which kernel is hot.

日本語の概要は準備中です。原文の説明を表示しています。

Run all reference benchmarks under benchmarks/eval/ and refresh the reference-table cells in benchmark_*.py. Auto-detects host hardware (H200/H100/H800/...). For each row's matching hw entry: replace cells in place. For new hardware or a new workload tag: append a new row to the section's table. Local-Pipeline-Result tables are skipped. One slash command runs everything end-to-end and auto-commits.

日本語の概要は準備中です。原文の説明を表示しています。

Generate a bounded task plan (and the agent prompt for it) that runs the 5-layer profiling methodology in .claude/skills/model-profiling/METHODOLOGY.md against one model, stops for human confirmation before any GPU work starts, then delegates the actual run to a background agent, verifies its completion claim, and routes findings into a gitignored .profiling-runs/<model>/ directory — durably tracked as a sub-issue under the tracking issue named in SKILL.md's "Result tracking" section — plus the methodology doc.

日本語の概要は準備中です。原文の説明を表示しています。

Use when running throughput/latency (serving speed) benchmarks against an already-running model server. Uses sgl_jax.bench_serving to sweep batch-size/concurrency and measure throughput and latency, producing summary.csv and per-point bs_<N>/result.jsonl. Speed only — accuracy/eval belongs to model-accuracy-benchmark. Triggers on throughput, latency, bench_serving, batch-size sweep, tok/s, TTFT, TPOT — not accuracy/eval.

日本語の概要は準備中です。原文の説明を表示しています。

Use when you need to CAPTURE / PRODUCE XProf (jax.profiler) profiling artifacts from sgl-jax (SGLang on JAX/TPU) for later performance analysis: driving a live server (/start_profile, stage-separated prefill/decode), offline bench_one_batch --profile, or kernel microbench. This skill produces the trace files; it does not analyze them.

日本語の概要は準備中です。原文の説明を表示しています。

Use when evaluating a newly adapted model's accuracy/eval score. Runs evalscope eval (or the test/srt/run_eval.py fallback) against an OpenAI-compatible endpoint on datasets like gsm8k / aime, producing per-dataset reports and a score. Accuracy only — throughput/latency benchmarks belong to model-speed-benchmark. Triggers on accuracy, eval, evalscope, gsm8k, aime, run_eval — not throughput.

日本語の概要は準備中です。原文の説明を表示しています。

RBG controller stress test - deploy kwok in existing cluster, run create/update/delete load tests with real controller pod, collect pprof profiling and logs, generate analysis report with recommendations

日本語の概要は準備中です。原文の説明を表示しています。

Implements Manus-style file-based planning to organize and track progress on complex tasks. Creates task_plan.md, findings.md, and progress.md. Use when asked to plan out, break down, or organize a multi-step project, research task, or any work requiring >5 tool calls. Supports automatic session recovery after /clear.

日本語の概要は準備中です。原文の説明を表示しています。

Step-by-step tutorial for adding a new lightweight SYCL JIT kernel for Intel XPU to sgl-kernel-xpu's python/sgl_kernel/jit module (SYCL source + Python wrapper + tests + benchmark)

日本語の概要は準備中です。原文の説明を表示しています。

Upgrade the vendored NeMo-Skills slice to a newer upstream commit. Use when the user asks to "bump vendored", "sync NeMo-Skills", "update vendored sha", "upgrade NS", or wants to pull a specific upstream fix. Inside the sgl-eval repo.

日本語の概要は準備中です。原文の説明を表示しています。

Audit whether all score-deciding logic in sgl-eval is vendored from NeMo-Skills, or whether some has crept into SE code. Use when the user asks "are we vendoring enough", "review vendor coverage", "audit vendoring", "is our vendoring complete", or before a release.

日本語の概要は準備中です。原文の説明を表示しています。

Add a new benchmark to sgl-eval by vendoring its NeMo-Skills dataset module and registering it in `_TABLE`. Use when the user asks to "add <benchmark>" / "support <benchmark>" / "register <benchmark>" inside the sgl-eval repo.

日本語の概要は準備中です。原文の説明を表示しています。