1. 概览与准备
目的:建立可观测体系,能快速定位直播卡顿、掉帧、拉流失败等问题。
准备项:确认流媒体协议(RTMP/HLS/DASH/SRT)、列出边缘节点与回源地址、准备日志采集与指标系统(Prometheus+Grafana)、可用的播放端SDK埋点。
2. 定义关键监控指标
列出必监控指标:播放启动时间(Startup Time)、首帧时间(Time to First Frame)、缓冲率/平均缓冲时长、播放失败率、码率切换次数、丢包率、P90/P99延迟、缓存命中率、回源QPS与错误率。
每项指标含义与阈值建议:如启动时间>3s视为警告,缓冲率>5%为异常,缓存命中率<80%需关注回源压力。
3. 指标采集与埋点实现
边缘与回源:在CDN边缘服务和回源Nginx/HTTP服务上暴露Prometheus格式的/exporter端点。
播放器埋点:在Web/APP播放器实现事件上报(startup, first-frame, stalled, bitrate-switch, error),通过HTTP POST写入Kafka或直接入Prometheus Pushgateway。
4. Grafana面板搭建(实操步骤)
步骤:在Grafana中新建Dashboard,导入或新建面板:缓存命中率、回源QPS、4xx/5xx比例、P90延迟、丢包率、端到端启动时间。
示例PromQL:缓存命中率 = sum(edge_cache_hit) / sum(edge_cache_request) *100;丢包率 = increase(udp_packet_lost[1m]) / increase(udp_packet_sent[1m]).
5. 日志集中与检索(ELK/EFK)
配置Filebeat/Fluentd收集Nginx/边缘日志与播放器上报日志并送入Elasticsearch。
常用查询:按stream id聚合请求数、按edge node筛选5xx错误、搜索"404"与"503"并回溯时间线。
6. 合成监控与链路检测
部署合成探测点(全国若干节点),定时拉取HLS/RTMP流并记录启动时间、丢帧、码率等。
使用SYNTH结果做SLA计算,结合真实播放端埋点判断感知差异。
7. 告警规则与负责人
告警配置:按等级配置(警告/严重/紧急),例如回源错误率5分钟>5%触发警告,10分钟>10%触发紧急。
设置告警接收人名单与Runbook链接,告警消息包含必要字段(stream id、edge、时间段、Grafana链接)。
8. 常见故障定位流程(实操步骤)
步骤1:确认范围—单流/单机/全局:在Grafana按stream id或边缘区分。
步骤2:复现并收集证据—播放器端捕获Har、控制台错误,边缘与回源日志、Prometheus历史曲线、tcpdump抓包(示例:tcpdump -i eth0 host
and port -w dump.pcap)。
9. 网络类问题排查命令与解读
常用命令:ping/traceroute/mtu测试(ping -M do -s 1472 target),mtr做持续路由与丢包分析。
解读:若边缘到回源丢包或高延迟,优先排查链路和BGP策略;DNS解析异常则检查TTL与权重分配。
10. 协议层与转码层故障定位
检查RTMP握手与推流:使用nginx-rtmp日志或ffprobe检查流信息(ffprobe -v error -show_format -show_streams rtmp://...)。
若码率突降或出现大量264解析错误,查看转码机CPU/GPU负载、编码器日志与队列长度,必要时重启转码进程或增加实例。
11. 问:如何快速判断是CDN边缘问题还是回源问题?
答:先看缓存命中率与边缘5xx/4xx比率:低命中且边缘到回源QPS/延迟上升,倾向回源问题;若缓存命中率高但播放端大量缓冲或丢帧,倾向边缘/网络问题。同时通过tcpdump从边缘到回源抓包确认是否出现重传、丢包或长时等待。
12. 问:遇到大规模播放失败应立即做哪些应急操作?
答:第一步按Runbook执行:1) 立即切换或扩展回源至备用源;2) 对热点路径做缓存刷新或回退至静态分段(HLS)策略;3) 提升告警级别、通知值班;4) 如果怀疑DNS或调度问题,可临时修改流量权重或绕过有问题的边缘。
13. 问:排查过程中哪些证据最关键,如何保存便于后续复盘?
答:关键证据包括:播放器Har与日志、边缘与回源的时间序列指标截图(Grafana)、相关时间段的边缘/回源日志切片、tcpdump pcap文件和转码/服务的系统指标(top、iostat)。请把这些文件按时间线归档并上传到故障工单,记录每一步操作与结论,便于后续Root Cause Analysis。
来源:cdn视频直播监控优化指标与故障定位技巧全流程说明