Agent Skill 其他

Nemo-MoE硬件配置

按硬件平台和模型系列分类的代表性MoE训练方案,总结了近似吞吐量范围、并行模式及常见调优堆栈。

查看 GitHub 仓库 ↗
  1. 📌Skill基础信息
  • Skill名称:nemo-mbridge-perf-moe-hardware-configs
  • 来源:社区第三方(Solizardking/skillhub-main)
  • 运行宿主:仅限支持 skills install 命令的 Agent 工具(如 MCP 等)
  • 核心定位:为不同硬件平台(如 H100/B200/GB200)的 MoE(混合专家)模型训练提供标准化性能配置方案,涵盖吞吐量估算、并行策略及调优栈。
  1. 🧩内部核心组成
  • 核心能力

- 硬件配置模板:针对 NVIDIA H100/B200/GB200 等平台的预定义 MoE 训练参数(TP/EP/PP/VPP 等)

- 性能区间参考:提供典型模型(如 DSV3、Qwen3 235B)在不同硬件的 TFLOPS/MFU 估算范围

- 调优策略库:包含 DeepEP/HybridEP 调度器选择、CUDA Graph 优化、CPU 侧调优等关键建议

  • 关键表格
配置类型示例参数
DSV3 on H100TP=2, EP=64, PP=8, VPP=4
Qwen3 235B on GB200TP=1/2, EP=32-64, PP=4
  1. 🛠安装与启用方式
  • 安装命令skills install --user Solizardking/skillhub-main
  • 依赖要求:需运行在支持 NVIDIA GPU(如 H100/B200/GB200)的环境
  • 数据源:依赖官方 tracker 的性能基准数据(非实时更新)
  1. 📋标准工作流
  2. 用户输入硬件平台(如 "GB200")和模型名称(如 "Qwen3 235B")
  3. Skill 返回预定义的并行策略(TP/EP/PP/VPP 组合)
  4. 附加调优建议(如 CUDA_DEVICE_MAX_CONNECTIONS=32NCCL_GRAPH_REGISTER=0 等)
  5. 提示用户根据实际路由模式和容器版本调整参数
  1. ⚠️关键限制、缺陷、注意事项
  • 硬性限制

- 仅适用于 NVIDIA 特定显卡(H100/B200/GB200)

- 性能数据为估算值,实际结果受容器版本和路由模式影响

  • 使用警告

- 禁止直接复制 tracker 参数(需结合具体场景调整)

- VPP(虚拟流水线并行)配置需谨慎验证

- MFU(模型浮点利用率)指标在 FP8/BF16 模式下不可直接对比

  1. ✅适用场景 & ❌不适合场景
  • 推荐场景

- 需要快速获取 MoE 模型在新型硬件上的基线配置

- 对比不同硬件平台的预期吞吐量区间

  • 不推荐场景

- 非 NVIDIA GPU 环境

- 需要实时性能监控或超细粒度调参

- 生产环境直接套用(需二次验证)

如何安装

skills install --user Solizardking/skillhub-main

通用安装教程:在哪里输入上面的命令

上面的命令本质是在「终端 / 命令行」中调用技能管理器,把该 Skill 下载并注册到你的 AI 工具。各主流工具打开终端的位置不同,按下面操作即可:

  1. 打开工具自带的终端面板,或系统终端(macOS「终端」、Windows「PowerShell」、Linux「Terminal」)。
  2. 把上面的安装命令复制进去,回车运行,等待下载与注册完成。
  3. 重启或重新加载 AI 工具,让新安装的 Skill 被识别。
  4. 新建对话并触发:直接描述用途,或通过该工具的技能 / 斜杠菜单选中此 Skill。
Claude 桌面版(macOS / Windows)

桌面版没有内置命令行,Skill 需通过 Claude Code CLI 安装。打开系统终端,先执行 npm install -g @anthropic-ai/claude-code,再运行上面的安装命令;完成后完全退出并重新打开 Claude。

Claude Code(终端 CLI)

直接在项目目录的终端里运行上面的命令即可。也可先输入 claude 启动交互界面,再在对话中引用该 Skill(/ 斜杠菜单或直接描述用途)。

VS Code(含 GitHub Copilot)

打开终端面板:菜单「终端 → 新建终端」,或快捷键 Ctrl+`(macOS 为 ⌃+`)。在终端里运行上面的命令;装完后执行「重新加载窗口」(Ctrl+Shift+P → Reload Window),让 Copilot 等扩展识别新技能。

Cursor

底部「终端」面板(Ctrl+`)即是内置终端。粘贴运行上面的命令,完成后在命令面板执行「Reload Window」刷新,再开始对话。

Windsurf

底部「终端」面板运行命令;也可直接使用其内置 Agent 终端,在对话侧执行安装。

其他工具(ChatGPT、本地脚本等)

不支持本地终端的产品,可先在本机终端完成安装,再在对话中描述该 Skill 的能力让其调用;不同工具的命令格式请以其官方文档为准。

风险提示

✅ 低风险

自动扫描未发现高危命令、隐私抓取或数据外传行为。仍建议安装前快速浏览仓库代码。

相似 Skill 推荐

品味技能
Leonxlnx/taste-skill
低风险

品味技能 - 让AI拥有好品味,阻止AI生成无聊、通用的垃圾内容。

CowAgent
zhayujie/CowAgent
低风险

开源超级AI助手与智能体框架。规划任务,运行工具和技能,通过记忆和知识自我进化。多模型、多通道。轻量级、可扩展、一行安装。(前身为chatgpt-on-wechat)

Obsidian技能
kepano/obsidian-skills
低风险

为Obsidian设计的智能体技能。教会你的智能体使用Obsidian CLI以及开放格式,包括Markdown、Bases、JSON Canvas。

AI网站克隆模板
JCodesMore/ai-website-cloner-template
低风险

使用AI编码代理,通过一条命令克隆任何网站。