当接到告警或用户反馈时,技术团队应立即按照“确认→隔离→信息汇总”的流程行动。首先确认告警来源与时间,判断是单节点、单机柜还是整个机房范围的宕机;其次联系机房运营方及值班人员确认是否为计划维护或已知事件;同时在控制台查看监控平台的CPU、内存、网络、磁盘和环境(温湿度、漏水、烟雾)等告警。
若能远程登录,先查看关键服务进程与系统日志,否则尽快申请现场人员进行机房门禁与设备状态检查。
1. 监控告警时间线:确定问题起始点与影响范围;2. 电力与环境告警:UPS、发电机与温湿度;3. 网络连通性:上游骨干与交换机状态;4. 设备硬件与服务进程:有没有硬件故障或内核崩溃。
要区分三类故障,应并行检查电力、网络和主机三条线索。首先查看机房BMS/监控平台的电源与UPS状态,若全部机柜同时断电,多为电力问题;若仅部分机柜或单台断电,可能为PDU或个别设备故障。
同时进行网络连通性测试:从不同公网节点或SaaS监控发起ping、traceroute,对上游ISP链路和机房核心交换机进行SNMP/CLI查询,查看端口状态和缓冲溢出。
如果电力与上游链路正常,但无法远程登录,使用串口/控制台查看主机自检信息、系统日志与核panic信息,以判断是否为服务器硬件故障或操作系统宕机。
建议准备并熟悉常用命令:ping、traceroute、mtr、ssh、ipmitool、ethtool、dmesg、journalctl、smartctl,以及监控平台的历史图表用于时间线回溯。
收集证据要遵循时间线原则:把握问题发生的起止时间点,并集中抓取该时间段内的监控指标(CPU、内存、网络流量、磁盘IO、丢包率)、系统日志(/var/log、journal)、应用日志和交换机/防火墙日志。
如果远程访问受限,指派现场人员导出控制台日志、PDU/UPS事件日志、交换机log和摄像头记录。使用统一事件票据系统记录所有操作与时间戳,便于事后比对与归档。
时间轴对齐是关键:将各类日志按UTC或本地时间统一对齐,寻找触发点与因果关系;关注CPU突增、网络抖动、磁盘错误及应用异常堆栈。必要时将核心dump、syslog上传至离线安全存储供深度分析。
恢复优先级应事先在BCP中定义,基于RTO(恢复时间目标)与RPO(数据恢复点目标)对业务分级:核心交易类(实时支付、订单处理)优先,其次为客户访问类,再次是内部后台与批处理。
启动灾备时应按既定脚本操作:先切换关键数据库和状态服务(避免数据双写冲突),再做应用层切换、DNS或负载均衡重定向。若有多活或热备,优先触发自动故障转移;若是冷备,要评估恢复所需时间并向业务端通报进度。
1. 通知相关利害方并开启应急频道;2. 执行数据库一致性校验与主从切换;3. 更新负载均衡/流量策略并验证核心API/页面可用性;4. 记录每一步操作与回滚方案。
事后必须开展Root Cause Analysis(RCA),明确直接原因与根本原因,列出修复清单并指定负责人和完成时限。复盘内容包括监控盲点、告警阈值、应急演练频率、供应商响应时效及备件库存状况。
基于复盘结果,制定可量化的改进项:增加关键链路冗余、提升监控覆盖并优化告警策略、定期演练异地切换、完善运维SOP和权限管理、与机房供应商签订更严格的SLA。
另外建议建立定期演练与演习报告模板,确保每次演练后都有可执行的改进项并跟踪直至关闭。