从 0 到 1 开发云数据库 RDS:从平台 Server 到自动化运维的研发路线
我之前参与过云数据库 RDS 平台研发,负责过平台侧 Server、数据库 Agent,也接触过 MySQL 高可用与数据库运维工作流。做具体模块时,我更多关注“这个接口如何实现”“这个故障如何切换”。后来回头看,我开始想一个更完整的问题:如果今天从零开发一套 RDS 云数据库平台,应该先做什么、再做什么?
这篇文章从 Go 后端和云平台研发的角度,梳理产品边界、整体架构、最小可行产品、生产基础能力,以及高可用和企业级功能的演进路线。它是一份面向工程实践的研发方案,不代表某家公司当年的完整真实实施过程。
一、先定义产品:RDS 到底解决什么问题?
RDS(Relational Database Service)是托管关系型数据库服务。它的价值不是重新开发 MySQL 内核,而是将数据库的创建、部署、配置、备份、扩缩容、监控和故障恢复标准化、自动化,让用户不用逐台登录服务器运维数据库。
假设用户在控制台选择:
- 引擎:MySQL 8.x
- 规格:2 vCPU / 4 GiB 内存
- 磁盘:100 GiB
- 网络:指定 VPC、子网和安全组
- 部署方式:先选择单实例,后续支持高可用版
用户点击“创建”,期望获得一个可连接的数据库地址、一个明确的实例状态,以及后续可操作的管理入口。为了实现这个体验,平台背后要完成申请资源、部署数据库、初始化账号、检查健康状态、登记实例等一系列动作。
第一条原则:先完成数据库的自动化交付,再逐步把它变成可用于生产的托管服务。
成熟产品如 Amazon RDS 已经提供自动备份、补丁维护、故障检测、恢复和扩缩容等能力,但这些不应该成为我们第一个迭代的交付范围。
二、研发开始之前,先确定边界和依赖
我会先和产品、基础设施、安全及 DBA 团队澄清以下问题。
- 服务对象是谁? 是内部业务团队,还是对外商业化的多个租户?前者可简化部分计费功能,后者必须更早考虑隔离、配额和审计。
- 第一个数据库引擎是什么? 先支持一个经过验证的 MySQL 版本,而不是同时兼容 MySQL、PostgreSQL、Redis。
- 基础设施由谁提供? RDS 需要计算、块存储、VPC、DNS、对象存储、密钥及监控等基础能力;如果已有云平台,就通过 API 集成,而非重复开发。
- 运维边界在哪里? 平台负责引擎安装、备份与恢复、补丁、故障处理;用户仍需要负责表结构、SQL 质量、应用连接池和业务数据治理。
- 可用性与数据要求是什么? 先定义实例级 SLA、RTO(恢复时间目标)、RPO(恢复点目标)、备份保留期和安全约束,避免写完代码才讨论这些问题。
这里要避免一个误区:MVP 可以先做单节点数据库,但鉴权、网络隔离、密码保护、操作审计和最基本的恢复路径不能等到“高级版”才开始设计。可以先做简单可靠的版本,之后增强。
三、先画出系统架构:控制面与数据面分离
从平台 Server 的角度看,RDS 是一个资源控制系统,应该先划分控制面(Control Plane)和数据面(Data Plane)。
1 | 用户 / RDS 控制台 |
控制面接受 API 请求、维护资源的期望状态、编排异步任务和查询操作进度。数据面是真正运行 MySQL 的节点,处理业务的 SQL 请求。业务流量一般不应该经过 RDS API Server。
我会先设计五个逻辑组件(初期可以放在同一个仓库或少量服务里,不必过早拆成几十个微服务):
| 组件 | 职责 | 一种可行实现 |
|---|---|---|
| RDS API Server | 鉴权、参数校验、实例查询、管理操作 | Go + HTTP/gRPC |
| 元数据库 | 保存实例、节点、规格、网络、任务、拓扑元信息 | PostgreSQL/MySQL |
| 任务编排 Worker | 创建、删除、配置变更、扩容等长任务 | Go Worker + 持久化任务状态 |
| 云资源适配器 | 调用 VM、块存储、网络及对象存储 API | 云平台 SDK |
| DB Agent | 部署 MySQL、修改配置、执行命令、健康上报 | Go + gRPC |
这里的 Agent 是部署在数据库节点上的运维执行程序,不是今天常说的 LLM Agent。
最重要的领域模型
| 资源 | 含义 |
|---|---|
| Tenant / Project | 租户及其资源归属 |
| Region / AZ | 地域与可用区 |
| Instance | 用户看到的逻辑数据库实例 |
| DB Node | 实际运行 MySQL 的物理/虚拟节点 |
| Specification | CPU、内存、磁盘、IOPS 等规格 |
| Network / Endpoint | VPC、子网、端口、连接入口 |
| Operation / Task | 一次长时间的管理操作 |
| Backup | 备份集及恢复点 |
| Cluster Topology | 主从角色和复制关系(高可用阶段引入) |
尤其要区分 Instance 与 DB Node。一个单机实例可能只有一个 Node,但同一个逻辑实例升级为主备架构时,会对应多个 Node。把两者一开始混为一谈,后续做主从切换和扩容会非常痛苦。
四、第一个 MVP:先打通“创建一个 MySQL 实例”
我不会先做高可用,也不会先做复杂的调度平台。第一阶段只验证一条最关键的纵向闭环:
用户提交创建请求 → Server 生成任务 → 云资源交付 → Agent 部署 MySQL → 验证可用 → 返回连接地址。
1. API 先采用异步任务模型
创建数据库不是普通的毫秒级接口。创建 VM、挂载磁盘、初始化 MySQL 可能需要较长时间,而且每一步都可能失败。
因此不应该让 HTTP 请求一直阻塞到数据库创建完成。
1 | POST /api/v1/rds/instances |
Server 完成鉴权、配额和参数校验后,先保存实例及操作记录,返回:
1 | { |
随后 Worker 异步执行任务。控制台通过查询实例和 Operation 状态展示创建进度。
2. 创建实例的执行步骤
- 资源预检查:校验规格库存、网络、容量、配额、租户权限、请求幂等。
- 创建元数据:生成 Instance ID,保存期望配置和 CREATING 状态。
- 申请基础设施:创建 VM、块存储及网络资源,记录每个资源的 ID。
- 初始化 Agent:使用镜像或启动脚本安装 Agent,并建立经过认证的通信通道。
- 部署 MySQL:初始化数据目录、生成配置、设置凭据和启动服务。
- 健康验收:测试连接、认证、读写及必要的监控采集。
- 交付实例:登记 Endpoint,状态转为 RUNNING,记录操作审计。
完成这一条链路后,再补齐查询、重启、参数变更、删除等管理操作,就有了第一个真正可以演示的 MVP。
3. 这里最容易忽略什么?
幂等、失败恢复和资源回收。
比如 Worker 在创建 VM 成功后宕机,任务重新执行时不能再创建第二台 VM。每一步都应记录外部资源 ID 和执行状态,恢复时先检查实际状态,再决定是否重试。
删除实例同样不能只是“删一条元数据”。它要依次处理数据保护策略、停止服务、释放计算与存储、清理网络和密钥、登记审计信息。涉及用户数据时,不能因为失败补偿就随意删除已产生的数据。
因此,我更倾向于把长任务设计成“持久化操作 + 状态协调”,而不是在一个 Go 函数里顺序执行一堆远程命令。
五、第二阶段:从能用走向可在生产中使用
当实例能创建、查询、删除以后,我们仍然不能说 RDS 已经成熟。数据库一旦存放了真实业务数据,备份、安全、监控和日常运维就成为基础要求。
1. 安全和多租户能力
- 控制台及 API 的身份认证和 RBAC/IAM。
- Instance、Node、备份等资源按租户和项目隔离。
- 网络默认私有化,通过 VPC、安全组和访问控制限制连接。
- 管理员密码和数据库凭据安全保管,避免在日志中输出明文。
- 管理操作审计、配额与租户级限流。
2. 监控和告警
- 节点:CPU、内存、磁盘使用率、IOPS、网络。
- MySQL:连接数、QPS、TPS、慢 SQL、锁等待、复制状态。
- 平台:任务成功率、任务耗时、Agent 心跳、控制面 API 错误率。
- 告警:磁盘空间不足、数据库不可连接、备份失败、复制延迟等。
健康检查不应该只依赖进程在不在,还要根据业务要求检查 SQL 可执行性和连接体验。
3. 备份与恢复
最初可以支持手动/定时全量备份、备份保留期,以及从备份创建一个新实例。之后通过 Binlog 归档实现指定时间点恢复(PITR)。
1 | 全量备份(基线) |
MySQL 官方的 PITR 文档 也采用全量备份结合 Binary Log 进行后续增量恢复的思路。
但比“备份任务成功”更重要的是定期进行恢复演练,验证备份可读、Binlog 连续、恢复过程可执行、数据完整且恢复时间符合目标。
4. 配置和基础运维
支持配置模板、参数合法性校验、动态生效与重启生效的区分、变更记录;再加入手动升配、磁盘扩容和版本补丁管理。对于有停机风险的操作,必须告知用户影响范围和预计操作阶段。
到这个阶段,RDS 才逐步具备生产基础能力。
六、第三阶段:研发高可用 RDS
单实例一旦遇到数据库宕机、VM 故障或者所在可用区故障,就可能长时间不可用。高可用模块因此是从“托管数据库”走向成熟云数据库的重要门槛。
我会按四个迭代推进:
| 迭代 | 主要交付 |
|---|---|
| HA 1.0 | 主从复制、GTID、集群拓扑管理和主从状态展示 |
| HA 1.1 | 稳定的连接入口、数据库代理与读写路由(如 ProxySQL) |
| HA 1.2 | 健康检测、唯一故障转移执行者、自动或人工切换 |
| HA 1.3 | 脑裂防护、数据一致性策略、故障演练、RTO/RPO 验收 |
参考我之前整理过的工作笔记,曾经讨论过 ProxySQL、Keepalived、VIP、自研哨兵和 Leader 选举等方案。不过,这篇文章先只讨论研发路线;这些组件的适用条件、复杂度及生产安全性需要单独讨论,不能直接当成唯一标准答案。
高可用实现里,真正困难的地方不是“把一个从库提升为主库”,而是:
- 如何区分数据库真的宕机与网络分区,避免误切换。
- 如何确保旧主库已经隔离,避免出现两个可写主库。
- 如何根据 GTID 和复制状态选择可恢复且数据最完整的候选。
- 如何降低连接重建和事务失败对业务的影响。
- 故障切换任务执行一半时,如何由其他 Worker 安全接管。
这部分会在系列第二篇详细拆解。
七、第四、五阶段:高级功能和商业化能力
基础能力稳定之后,再按业务价值扩展,而不是把所有功能都塞进首个版本。
| 能力 | 基础版 | 高级版/企业版 |
|---|---|---|
| 实例管理 | 创建、查询、删除、重启 | 批量操作、自动维护、滚动升级 |
| 规格 | 固定规格、手工升配 | 自动容量调整、低中断变更 |
| 可用性 | 单节点 + 备份恢复 | 主备 HA、跨可用区故障恢复 |
| 复制 | 基础主从 | 只读实例、读池、跨地域只读副本 |
| 备份 | 定时备份、恢复新实例 | PITR、克隆、跨地域与不可变备份 |
| 安全 | 租户隔离、RBAC、TLS | KMS、细粒度策略、合规审计 |
| 性能 | 基础指标与慢 SQL | SQL 洞察、索引建议、容量预测 |
| 运维 | 手动操作和告警 | 自动巡检、异常诊断、自愈工作流 |
| 商业化 | 资源配额和用量记录 | 计量计费、套餐、账单、SLA 报表 |
如果是对外商业化平台,计量、账单、用户购买流程必须提前进入产品规划,只是可以逐步从最小用量记录做起。
AI DBA、自动根因分析、容量预测等能力值得探索,但它们建立在可靠的指标、日志、拓扑和运维操作接口之上。底层数据不可靠,AI 很难提供可信的诊断结果。
八、研发团队应该怎么安排迭代?
我不建议采用“先把所有 Server 写完,再开发 Agent,最后一起联调”的方式。更好的做法是每一个功能都形成纵向闭环:
1 | 需求澄清 |
例如研发“扩容”:
- 产品先明确支持哪些规格、是否允许降配、是否需要重启。
- Server 定义扩容 API、权限校验和操作状态。
- Worker 负责协调云资源规格变更。
- Agent 负责数据库侧的必要动作和检查。
- QA 验证扩容成功、资源不足、超时、重复提交和中途宕机。
- 运维验收告警、回退/恢复流程和操作审计。
每个阶段都要把“失败时怎么办”作为需求的一部分,而不是上线之后再补。
一个相对合理的里程碑安排
- M0:基础条件就绪。计算、存储、网络 API 可用,明确租户/安全边界,打通 Server 到 Agent 的通信。
- M1:单实例闭环。可以创建、查询、连接、重启和删除 MySQL。
- M2:生产基础能力。监控、备份恢复、权限审计、配置管理、基本扩容。
- M3:高可用闭环。主从、代理路由、故障转移、数据安全和故障演练。
- M4:高级运维与规模化。只读副本、跨区容灾、自动巡检、多版本管理。
- M5:商业化与智能化。计量计费、SLA、诊断、自愈及 AI 运维。
这些是阶段依赖关系,不是固定的月度排期。真实顺序还要根据团队能力、已有基础设施、客户规模和产品定位调整。
九、回头看:RDS 最重要的工程能力是什么?
我现在更愿意把 RDS 理解为一套数据库资源生命周期管理系统,而不是一组管理 MySQL 的 API。
创建、扩容、备份、恢复、主备切换,本质上都具有相似的工程特征:
- 会调用多个外部组件,单个数据库事务无法覆盖整个操作。
- 执行时间长、可能超时,调用方和执行者都可能重启。
- 有些操作不能简单回滚,必须通过状态协调和安全补偿恢复。
- 系统必须持续发现“期望状态”和“实际状态”的差异。
- 一旦涉及用户数据,数据安全通常比尽快把状态标记为成功更重要。
因此,真正值得投入设计精力的公共基础设施,是资源模型、异步任务编排、幂等性、状态协调、审计与可观测性。有了这些底座,后面增加高可用、扩缩容、备份和智能运维,才不会演变成难以维护的脚本集合。
如果只保留一句话作为这篇文章的结论,那就是:
开发 RDS,先实现数据库自动化交付,再补齐安全、备份与运维基础,最后围绕高可用和规模化形成成熟的云数据库服务。平台 Server 的真正价值,是可靠地协调这一切。
参考资料与后续文章
官方产品与技术资料:
- Amazon RDS 用户指南
- Amazon RDS 创建实例流程
- MySQL 8.4 Replication 文档
- MySQL 8.4 Point-in-Time Recovery
下一篇计划:《RDS 高可用为什么难:从 Sentinel、ProxySQL 到 GTID 选主与故障恢复》,深入讨论故障误判、脑裂、防双主、复制一致性和分布式 Failover 状态机。