本文へ移動
cccskills

「framework-integration」の検索結果

9 件 ・ 関連度順

概要と使いどころ

DiT 计算模块(L3):把**已定位的 DiT 计算瓶颈**落成特性级选档与实施—— 量化档(W8A16 / W4A16 / W8A8 系列 / W4A4 / MXFP8 / FA 量化)、稀疏(rf_v2 / ada_bsa)、 缓存(DiTCache / AttentionCache / 时间步优化)、编译启用(MindieSDBackend / Pattern 融合 / ACLGraph) 的**开不开、开哪一档、怎么开、怎么复验**;依据是 `docs/zh/features/*`(特性真源)+ framework-integration/references/framework-support-matrix.md(支持状态)。 即使用户只说"这个模型怎么加速""量化/稀疏/Cache 怎么选怎么开""要不要开量化、开哪一档""这个档位开了有没有效果" 而未提 profiling,也应触发。 **入口条件**:瓶颈点已明确(用户带一句实测锚点,或编排层交付标签)时由域入口 `performance-optimization` 按标签分发到本技能;**瓶颈未明("怎么加速 / 跑通 / 采 profile")先走 `model-auto-optimization` 定位**,不在本技能内做占比分析。 near-miss:多卡并行形态 / 通信掩盖 / TP·offload 选型 → `dit-parallel-opt`;VAE 解码段与 host 固定开销 → 各自模块(VAE / host);单算子实现级实测选型(mindie_bench)→ `benchmark-dev`; 需要新增 pattern / 算子才能落地本档 → `pattern-dev` / `operator-dev`;框架侧开关与使能验证 → `framework-integration`;量化器位级契约与精度对齐(编码公式 / 舍入 / scale 粒度)→ `quantization-dev`;精度验收判据 → `accuracy-gate`;数字入库口径 → `perf-gate`。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新

Install skills, agents, and teams from agent-almanac into any supported agentic framework using the CLI. Covers framework detection, content search, installation with dependency resolution, health auditing, and manifest-based syncing. Use when setting up a new project with agentic capabilities, installing specific skills or entire domains, targeting multiple frameworks simultaneously, or maintaining a declarative manifest of installed content.

日本語の概要は準備中です。原文の説明を表示しています。

pjt222/agent-almanac372026年10月12日 更新

多模态模型自动优化流程总入口(编排层):把一个三方框架托管的扩散模型从环境准备到无损/有损 优化自动跑完。任务判定后按 S0 环境准备、S1 kernel 融合优化(原 S1/S2 合并)、S3 并行通信、 S4 有损优化、S5 训练感知(预留,少步蒸馏 + SLA/QAT)、闭环复验路由到能力技能(env-install / framework-integration / profiling-collect / profiling-analyze / performance-optimization / dit-parallel-opt / dummy-run 等),检查各阶段产物与验收并回填经验槽位。 当用户需要对具体模型做框架接入、无损/有损加速、并行调优或确认收益时使用本入口;即使用户只提 模型名加"优化/加速/跑通/采profile"而未说框架或阶段,也应由本入口判定路由。仓库代码开发类任务 请走 dev-workflow。流程执行/验收按 workflows/optimization-flow.md,run-state + stage_gate 门禁。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新

三方框架特性落地(原 framework-feature-enablement + framework-extension-dev 合并): 一个入口信号「框架侧特性没落地」,内部分两分支——**分支 A 框架已有 → 使能与验证** (计数契约 + 三层证据 + 使能异常回修);**分支 B 框架缺失 → 补齐开发** (注入点 + 代码组织/注册机制 + 合入姿势:平台注册优先 / 上游 PR / fork 钉版 / monkey 备选)。 分支 A 触发词:量化/稀疏/缓存开关没生效、融合算子没命中、使能异常或精度不符、 "起 vllm 服务""模型在框架里跑不通""把 mindiesd 接到其他框架"。 分支 B 触发词:框架没 comm-stream 掩盖、框架没缓存消费者、框架不支持某 collective/mask、 feature_* NotImplemented、要给框架补一条结构性能力。 near-miss:纯安装/权重 → env-install;纯采集/分析 → profiling-collect / profiling-analyze; 纯选档(该不该开量化、开哪一档)→ dit-perf-opt; mindiesd 仓内 pattern / 算子 / 图下发开发 → dev-workflow + pattern-dev / operator-dev / aclgraph-dev。 由 model-auto-optimization 的 S1(融合接入)/S4(有损使能)/S5(训练感知)与 §0 缺口补齐策略路由, 亦由 dev-workflow 的框架接入/验证场景指引加载。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新

环境安装与准备:把部署环境从零安装就绪——mindiesd 编译安装(本地昇腾直装 / SSH 推远端容器 / Docker 镜像直装)与三方推理框架全栈安装(vLLM-Omni 源码构建、DiffSynth-Engine 部署、 LightX2V editable 部署),并负责模型权重确认与下载(下载前先确认远端是否已存在)。不含特性使能与验证 (framework-integration)与 profiling(profiling-collect);SSH 工具由 remote-access 提供。 当用户需要安装 MindIE-SD、源码构建/直装 vLLM-Omni 或 LightX2V(editable + PLATFORM=ascend_npu)、 或确认/下载模型权重时使用此技能; 即使用户只提到"把代码推到服务器""在容器里装 vllm 全栈""准备 lightx2v 调优环境"而未说昇腾, 只要上下文涉及环境安装与准备都应触发。由 model-auto-optimization S0 与 dev-workflow 部署阶段指引加载。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新

dummy-run

無料

简化模型代码的快速验证载体:用随机权重/精简代码在 NPU 上快速验证模型架构 兼容性、算子先接入与融合可行性(产物:架构兼容性 + 基线/快验输出),无需真实权重。 已部署模型的框架侧验证见 framework-integration,环境安装见 env-install。 当用户需要确认模型能否跑通、评估参数量与显存占用、或在算子接入/融合优化前 做快速验证时使用此 skill;即使用户只提到"帮我试试这个模型能不能跑"而未说 dummy run,也应触发。由 model-auto-optimization 的 S0/S1(融合/编译快验)阶段调用, 亦由 dev-workflow 的模型验证阶段指引加载。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新

远程昇腾访问工具:为部署与验证提供访问远端昇腾服务器的通用执行通道, 覆盖 SSH 连接复用、容器内命令执行、空闲卡选择与文件传输。 当需要在远端昇腾设备执行命令、查询 NPU 状态、 选择空闲卡或向远端传输文件时使用本技能; 即使用户只提到「在服务器上跑个命令」而未说明 SSH,只要目标是远端昇腾环境也应触发; 只提供远程执行通道,不负责安装/编译(env-install)与框架验证(framework-integration)。 由 env-install 的部署流程与 dev-workflow 的部署阶段调用,亦可独立使用。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新

分布式并行策略选型与实测(USP / CP 通信掩盖 / CFG / TP/RSP/PP 概览;含拓扑相关选型 (按实测拓扑分域条件化:域内 bulk vs 跨域 head-parallel 翻转)与 AlltoAllV 缺陷绕过)。在 model-auto-optimization 中承担 S3:优先 USP、结合拓扑带宽差异选 CP,少量 step + 多 rank 验证特性开启与掩盖(产物:并行方案 + 多 rank 证据)。当用户需要多卡并行 策略选择、**序列并行形态抉择**(纯 Ulysses vs 复合 AllGather-KV×Ulysses:按 GQA / 跨域带宽 / 形态 plumbing 条件化定胜负)、**并行 × 稀疏叠加**(seam 契约:先汇聚后稀疏、 窗口偏移、块对齐、per-head 掩码;含「稀疏看似生效实则未生效」判定)、通信掩盖调优 (含**掩盖率上限**:1-1/n 何时成立、c/f 决定的真实上限、没生效的排查)、**并行方案 差异归因**(阶段 Δ 分解 / 集合通信按 communicator 归属 / 4→8 卡线性度),或排查多卡 跑不动 / 通信暴露大 / 换卡组 / 端口 bind / HCCL 带宽验证问题时使用;**并收编原并行作用域诊断**: 改了 SP/CP/Ulysses/AllGather-KV 后**不报错但结果没变/性能没变**、或小规模能跑大规模崩 (如 Ascend EE1003 coreDim 超限)时,用本技能证明"改动到底有没有生效"(判别量逐层收窄 + 两侧对照 + 日志≠生效,见 `references/scope-effectiveness-check.md`); 即使用户只说 "多卡跑不动""通信暴露大""为什么没达到 6/7 的掩盖率""CP 和 USP 该选哪个""CP 叠稀疏 怎么不生效"而未说并行,也应触发。特性档位/接口事实见 `docs/zh/features/parallelism.md` /`usp.md`(仓内真源),框架侧开启见 framework-integration; 本技能承载选型决策、monkey-patch 掩盖与多卡诊断实测。 由 dev-workflow 多卡场景触发,亦由 model-auto-optimization 的 S3 阶段触发。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新

PyTorch Inductor pattern matcher 机制开发:扩展本仓 compile 能力(default/Inductor 后端), 或扩展三方框架自带的类似能力——Pattern 创建/注册/调试、GraphPatternEntry 手动改图、 Copy 算子(InplaceCopy/ViewCopy)消减的机制与全生命周期,含 Phase 1–7 出口证据纪律。 当用户需要写/改/调试 pattern、处理融合不命中、做 Copy/InplaceCopy 消减或注册 replacement 时 使用;即使用户只说"pattern 不生效""copy 算子变多了""compile 没融合"而未说全称,也应触发 (触发词:pattern / pattern matcher / register_replacement / GraphPatternEntry / compile 融合 / Copy 消减)。 边界:批量下发(图 capture/replay)见 aclgraph-dev;算子本体开发见 operator-dev; 框架侧特性使能/补齐见 framework-integration。 由 dev-workflow 的 pattern/compile 开发场景路由触发,亦由 model-auto-optimization 的 S1 kernel 融合(接入/compile)替换场景指向(框架侧使能不支持、需新增/适配 pattern 时)。

日本語の概要は準備中です。原文の説明を表示しています。

Ascend/MindIE-SD152026年10月12日 更新