图信号分析器

📌 Skill基础信息

• Skill名称：graphsignal-profiler
• 来源：社区第三方（graphsignal）
• 运行宿主：通用Python环境（非特定Agent工具，支持vLLM、SGLang、PyTorch、dstack等推理框架）
• 核心定位：通过旁路进程实现GPU推理工作负载的性能剖析、追踪和监控，支持主流深度学习框架的无侵入式性能观测

🧩 内部核心组成

核心组件

• 旁路剖析器：独立进程架构，通过CUPTI、OTLP/gRPC、Prometheus抓取和NVML进行外部监控
• 自动插桩：支持vLLM、SGLang、PyTorch等框架的零配置监控

主要命令/工具

环境变量配置

• GRAPHSIGNAL_API_KEY: 必需API密钥
• GRAPHSIGNAL_API_BASE: API端点覆盖
• GRAPHSIGNAL_TAG_<KEY>: 自定义标签附加

🛠 安装与启用方式

安装方法

CLI模式（推荐）：

UV_TOOL_BIN_DIR=/usr/local/bin uv tool install 'graphsignal[cu12]'  # CUDA 12.x

Python进程内模式：

uv add 'graphsignal[cu12]'  # 或 pip install -U 'graphsignal[cu12]'

前置要求

• Linux系统（GPU剖析需要）
• CUDA 12.x或13.x环境
• 有效的Graphsignal API密钥

启动方式

1. 设置环境变量：export GRAPHSIGNAL_API_KEY="your_key"
2. CLI模式：graphsignal-run your_workload_command
3. Python模式：在代码开头调用graphsignal.watch()

📋 标准工作流

1. 用户准备：获取API密钥并设置环境变量
2. 启动剖析：

- CLI模式：使用graphsignal-run包装原有启动命令

- Python模式：在代码初始化阶段调用watch()方法

1. 数据收集：旁路剖析器自动收集GPU性能指标、Prometheus指标和可选分布式追踪
2. 数据传输：性能数据通过HTTPS发送到Graphsignal平台
3. 可视化分析：用户在Graphsignal平台查看性能指标和剖析结果

⚠️ 关键限制、缺陷、注意事项

平台限制

• 仅支持Linux系统
• GPU剖析需要特定CUDA版本（cu12/cu13）

技术限制

• OpenTelemetry追踪需要手动启用(--enable-otel)
• OTEL追踪不适用于graphsignal.watch()模式
• SGLang ≥ 0.5.10需要单独安装OpenTelemetry依赖

网络要求

• 必须允许到https://api.graphsignal.com的出站连接
• 生产环境需考虑网络延迟和稳定性

生产适用性

• 可用于生产环境，但需评估性能开销
• 建议在测试环境充分验证后再部署到生产

✅ 适用场景 & ❌ 不适合场景

✅ 适用场景

• vLLM、SGLang、PyTorch推理服务的性能监控
• 需要GPU利用率分析和CUDA内核剖析的场景
• 生产环境推理工作负载的持续性能监测
• 需要分布式追踪的复杂推理流水线

❌ 不适合场景

• Windows或macOS开发环境
• 非CUDA的CPU推理工作负载
• 对性能极其敏感的超低延迟场景
• 无法访问外部API的网络隔离环境