Mrtutu

面向 Ascend PyTorch Profiler / msprof DB（如 ascend_pytorch_profiler*.db、msprof_*.db）的 SQL 分析技能。将自然语言问题（算子耗时、通信、下发、调度、schema/table 查询）转为安全可执行 SQL，并按需从官方文档提取表结构详情。

中文简介正在准备中。当前显示原文说明。

Analyze Ascend NPU schedule, operator dispatch, operator launch, and Host Bound profiling issues in Ascend profiling data. Use when need to diagnose device Free time, framework/operator dispatch latency, launch latency, PYTORCH_API/CANN_API launch gaps, aclrtSynchronizeStream stalls, task queue behavior, CPU scheduling interference, GC/lock pauses, CPU affinity, or schedule-side optimization actions.

中文简介正在准备中。当前显示原文说明。

对 msMemScope 显存数据做全链路处理：根据用户的显存问题诉求（OOM、显存泄漏、显存占比拆解、Step 间对比等），指导并帮助用户以最合适的 msMemScope 采集配置完成显存数据采集（支持命令行、Python 接口、mstx 打点三种采集方式，覆盖训练、推理 vLLM-Ascend、FSDP、强化学习 verl 等场景）；对已采集的 memscope_dump_*.csv/db 数据做系统性解读与问题诊断（整体显存曲线趋势分析、显存使用大头按模块/组件拆解分析、显存峰值点各模块与流程占比分析，以及对显存泄漏、OOM 等典型问题的根因定位与原因分析）。

中文简介正在准备中。当前显示原文说明。

DB格式Profiling数据场景化性能拆解：自动完成场景确认（框架/任务类型判定）、阶段拆解与单次执行边界拆解，并给出报告。Use when 需要对昇腾 Profiling DB 做阶段拆解、step 归因或生成性能报告, or when the user says "帮我按任务阶段拆解这个Profiling数据", "多层次性能耗时拆解", "分析这个 vllm/sglang/verl 数据，主要耗时都花费在哪里了"。

中文简介正在准备中。当前显示原文说明。

Generate msmodelslim evaluation YAML configuration (service_oriented + aisbench + vllm-ascend). Use when user asks for evaluation config generation.

中文简介正在准备中。当前显示原文说明。

在基础模型适配完成后，按算法适配并安装 Adapter 接口，依据目标模型真实 forward 生成并验证 final-logits patch，执行单算法 msModelSlim 离群值抑制变换、官方计算图提取和浮点 logits 门禁。

中文简介正在准备中。当前显示原文说明。

为 msModelSlim 创建基础 Transformers 模型适配器（Model Adapter）。 包含创建适配器、实现必需接口与注册安装流程。 适用：Decoder-only LLM、理解类 VLM（仅 LLM/text 部分）。 多模态生成（DiT/扩散，含双/多专家）见下方「多模态生成扩展」节，按需加载。 不适用：Encoder-only、非 Transformers 架构。

中文简介正在准备中。当前显示原文说明。

在实现适配器前对候选模型做分析。确定模型实现来源（transformers / 模型目录 / diffusers）、结构特征、内存约束下的逐层量化建议（可选）及 MoE 融合权重风险。适用于用户询问模型适配可行性或做适配前分析时使用。识别为 DiT 扩散模型时，索取推理仓路径后回传 `next_step: model-adapt`，由 orchestrator 委派 `msmodelslim-model-adapt`（DiT 扩展节承接）。

中文简介正在准备中。当前显示原文说明。

提供 msModelSlim 的通用快速量化指引，包含安装、最简 YAML 配置与基础执行校验。适用于用户询问 msmodelslim 安装、快速量化、配置 yaml、linear_quant 或 minmax 基础参数时。

中文简介正在准备中。当前显示原文说明。

Append a DiT-tuning round to history.yaml. DiT-side counterpart of the LLM-path accuracy_append.py; records practice.md5, inference_outputs, fp_baseline_outputs, and the scoring fields (scores / overall_score / loss_vs_baseline / is_satisfied) populated by quant-tuning-score-dit. Idempotent on practice_id.

中文简介正在准备中。当前显示原文说明。

在遇到模型精度问题，需要分析定位时使用。典型的精度问题包括回复输出中有乱码或重复、精度测评不达标等。

中文简介正在准备中。当前显示原文说明。

计算算子（如 matmul/GEMM）的 MFU（Machine FLOP Utilization），并给出清晰的公式和推导过程。

中文简介正在准备中。当前显示原文说明。

当用户需要部署 msmodeling optix 服务化自动寻优工具时使用。负责安装与验证。

中文简介正在准备中。当前显示原文说明。

运行程序采集 Profiling 数据，再用 msprof-analyze 分析TFLOPS 与 MFU。

中文简介正在准备中。当前显示原文说明。

为 msModelSlim 适配流程注入反量化能力。先识别模型权重是否可反量化，再实现反量化脚本并接入 model_adapter。当前仅覆盖 FP8 的 per-block 与 per-channel 两类；若格式不确定或无公开反量化规则，要求用户提供反量化脚本或浮点权重。

中文简介正在准备中。当前显示原文说明。

Use when diagnosing NPU + PyTorch or LLM Serving Host CPU affinity, NUMA locality, cgroup/cpuset constraints, CPU range conflicts, PyTorch/runtime threading, DataLoader, tokenizer, scheduler, vLLM-Ascend, SGLang, TTFT, TPOT, tokens/s, QPS, or multi-rank/multi-worker CPU binding issues.

中文简介正在准备中。当前显示原文说明。

在需要根据自然语言规格为未支持硬件新增或更新 DeviceProfile 设备画像条目时使用

中文简介正在准备中。当前显示原文说明。

为 msModelSlim 适配器实现逐层量化（按层加载/懒加载）能力。仅在用户明确要求逐层量化或基础适配因 CPU 内存不足无法全量加载权重时使用。该特性为高阶可选项，不是基础适配必需项。

中文简介正在准备中。当前显示原文说明。

分析 msProbe compare 精度比对结果文件（CSV/XLSX），定位整网精度问题与数值差异。支持统计量模式，输出分析报告。支持辅助信息协助定位：辅助信息（历史结论/已知根因/已排除算子/嫌疑区域等）建议在请求中附带（不依赖交互工具）。若请求中未附带且运行环境无 AskUserQuestion，则跳过辅助信息收集、照常完成分析，报告中省略辅助信息章节并注明原因。

中文简介正在准备中。当前显示原文说明。

多卡分布式训练中的 loss/gnorm 精度溢出检测与根因追溯。基于 MSProbe dump 数据，先跨 rank 定位首次出现 NaN 的源卡，再在源卡上追溯具体的溢出根因算子。 当用户需要：(1) 多卡分布式训练场景下的 NaN/Inf 溢出检测 (2) 找出首先出现 NaN 的源卡 (3) 追溯根因计算算子 (4) loss/gnorm NaN 问题定位 时使用此 skill。

中文简介正在准备中。当前显示原文说明。

训练与推理数据不一致的端到端根因分析。当模块映射/值比较不足以定位问题时使用，可追踪首个可信的分歧边界，过滤融合或结构性误报，遵循生产者-消费者链，并生成包含具体假设和证据的根因报告。

中文简介正在准备中。当前显示原文说明。

执行msProbe数据比对并分析比对结果，定位确定性计算问题首个输入一致输出不一致的API。

中文简介正在准备中。当前显示原文说明。

RL 强化学习训练与推理（rollout）路径的算子差异性扫描。当用户提供训练启动脚本路径，要求对比 Megatron 训练路径与 vLLM 推理路径的算子差异（尤其是融合算子 vs 单算子不一致）时使用此 skill。典型触发词包括"训推算子扫描"、"训推差异性"、"算子差异报告"、"融合算子对比"、"train vs infer op diff"。注意：本 skill 通过运行完整 RL 训练脚本（集成 profiling）来采集真实运行时算子（非静态源码扫描，非独立分离运行）。当训练、推理使用不同脚本时禁止触发。

中文简介正在准备中。当前显示原文说明。

Analyze Ascend NPU computation-side profiling data for single-card runs or a selected rank from multi-card runs. Use this skill when the user asks to diagnose computation bottlenecks, AI Core / AI Vector / AICPU hotspots, dynamic shape overhead, block dim issues, redundant TransData/Transpose/Cast, cross-stream waits, frequency/runtime-state issues, or fusion opportunities.

中文简介正在准备中。当前显示原文说明。