cat case/PM-2014-0102.md

Google 2014 自动配置误删 IP 通告

P1 · Gmail 等多项服务在全球部分区域不可达

summary

2014 年,Google 一次自动化生成的错误配置将大量 Google 服务的 IP 地址块从 BGP 通告中移除,导致 Gmail 等多项服务在全球部分区域不可达。

timeline

自动化配置作业误判需撤销的网段,批量删除了正常服务的 IP 通告;服务可用性下降,工程师介入修正配置并重新通告后恢复。

root_cause

配置生成逻辑存在缺陷,把应保留的 IP 块误识别为应移除,产生了一份删除正常路由的错误配置并自动下发。

amplifiers

配置以自动化方式批量下发,缺乏变更前的差异审查与灰度;BGP 撤销影响面覆盖多个产品线。

mitigation

回滚配置、恢复 IP 通告;强化配置生成的校验与人工审批关卡。

lessons

自动化配置变更必须有干跑、差异审查与审批三道关;批量网络操作应先小范围验证。

checklist

配置生成后强制 diff 评审;网络变更分级审批;保留自动回滚;监控路由通告数量异常。