为给定模型负载比较加速器的容量、有效计算、内存带宽、功耗与成本。用于硬件选型或解释标称峰值与实测差异。
日本語の概要は準備中です。原文の説明を表示しています。
bojieli/ai-infra-book6,3892026年10月1日 更新
無料GitHub で公開
cluster-network-analysis
估算多节点训练或推理的跨服务器流量、网络瓶颈与同步等待。用于比较拓扑、通信路径和网络优化收益。
含まれるファイル（1）
- SKILL.md1.2 KB
SKILL.md（原文）
インストールする前に、エージェントに与えられる指示の中身を確認できます。
集群网络分析
适用：作业跨越服务器或超节点，网络可能限制完成时间。依据 manuscripts/07-数据中心网络.md 第 7.1—7.6 节。
- 从并行算法追踪一份数据的生产者、消费者、大小和必须到达的时刻；区分本地归约后传输与直接跨节点传输。
- 将流量映射到物理拓扑：网卡、rail、交换层、上行带宽和共享割集。按瓶颈链路计算传输下界，不把所有网卡的标称带宽当作单流带宽。
- 对小消息或远程操作，检查往返延迟、带宽时延积、可同时在途请求数、提交与完成通知速率；缓冲槽位应在最后一个消费者完成后才复用。
- 用高并发负载检查 incast、哈希碰撞、超售和故障重传。再把网络阶段放回训练步或推理请求依赖图，计算真正缩短的关键路径。
报告跨节点字节量、瓶颈割集、通信轮次、预计等待和实测吞吐。若测量低于线速，优先检查路径、并发与背压，勿仅归咎于网络硬件。
レビュー
まだレビューはありません。使ってみた感想をお寄せください。
同じリポジトリのスキル
概要と使いどころ
规划 Agent 模型调用与工具环境的创建、驻留、释放和恢复。用于并发容量、沙箱成本与完整任务时延分析。
日本語の概要は準備中です。原文の説明を表示しています。
bojieli/ai-infra-book6,3892026年10月1日 更新
比较推理副本、prefill/decode 分离、专家放置与共享 KV 的跨实例方案。用于容量规划、路由、扩缩容和故障恢复。
日本語の概要は準備中です。原文の説明を表示しています。
bojieli/ai-infra-book6,3892026年10月1日 更新
比较模型或任务放在端侧、边缘或云端时的交互延迟、网络传输、能耗与恢复。用于多模态和实时 Agent 部署。
日本語の概要は準備中です。原文の説明を表示しています。
bojieli/ai-infra-book6,3892026年10月1日 更新
为单实例推理服务比较批处理、请求调度、KV 缓存、卸载和推测解码。用于容量、吞吐、延迟和每合格请求成本的取舍。
日本語の概要は準備中です。原文の説明を表示しています。
bojieli/ai-infra-book6,3892026年10月1日 更新
诊断 GPU 算子、融合、编译和运行时提交的性能问题。用于判断重读、重算、启动或同步是否位于请求关键路径。
日本語の概要は準備中です。原文の説明を表示しています。
bojieli/ai-infra-book6,3892026年10月1日 更新