我之前参与过云数据库 RDS 平台研发,负责过平台侧 Server、数据库 Agent,也接触过 MySQL 高可用与数据库运维工作流。做具体模块时,我更多关注“这个接口如何实现”“这个故障如何切换”。后来回头看,我开始想一个更完整的问题:如果今天从零开发一套 RDS 云数据库平台,应该先做什么、再做什么?

这篇文章从 Go 后端和云平台研发的角度,梳理产品边界、整体架构、最小可行产品、生产基础能力,以及高可用和企业级功能的演进路线。它是一份面向工程实践的研发方案,不代表某家公司当年的完整真实实施过程。

一、先定义产品:RDS 到底解决什么问题?

RDS(Relational Database Service)是托管关系型数据库服务。它的价值不是重新开发 MySQL 内核,而是将数据库的创建、部署、配置、备份、扩缩容、监控和故障恢复标准化、自动化,让用户不用逐台登录服务器运维数据库。

假设用户在控制台选择:

  • 引擎:MySQL 8.x
  • 规格:2 vCPU / 4 GiB 内存
  • 磁盘:100 GiB
  • 网络:指定 VPC、子网和安全组
  • 部署方式:先选择单实例,后续支持高可用版
    用户点击“创建”,期望获得一个可连接的数据库地址、一个明确的实例状态,以及后续可操作的管理入口。为了实现这个体验,平台背后要完成申请资源、部署数据库、初始化账号、检查健康状态、登记实例等一系列动作。

第一条原则:先完成数据库的自动化交付,再逐步把它变成可用于生产的托管服务。

成熟产品如 Amazon RDS 已经提供自动备份、补丁维护、故障检测、恢复和扩缩容等能力,但这些不应该成为我们第一个迭代的交付范围。

二、研发开始之前,先确定边界和依赖

我会先和产品、基础设施、安全及 DBA 团队澄清以下问题。

  1. 服务对象是谁? 是内部业务团队,还是对外商业化的多个租户?前者可简化部分计费功能,后者必须更早考虑隔离、配额和审计。
  2. 第一个数据库引擎是什么? 先支持一个经过验证的 MySQL 版本,而不是同时兼容 MySQL、PostgreSQL、Redis。
  3. 基础设施由谁提供? RDS 需要计算、块存储、VPC、DNS、对象存储、密钥及监控等基础能力;如果已有云平台,就通过 API 集成,而非重复开发。
  4. 运维边界在哪里? 平台负责引擎安装、备份与恢复、补丁、故障处理;用户仍需要负责表结构、SQL 质量、应用连接池和业务数据治理。
  5. 可用性与数据要求是什么? 先定义实例级 SLA、RTO(恢复时间目标)、RPO(恢复点目标)、备份保留期和安全约束,避免写完代码才讨论这些问题。
    这里要避免一个误区:MVP 可以先做单节点数据库,但鉴权、网络隔离、密码保护、操作审计和最基本的恢复路径不能等到“高级版”才开始设计。可以先做简单可靠的版本,之后增强。

三、先画出系统架构:控制面与数据面分离

从平台 Server 的角度看,RDS 是一个资源控制系统,应该先划分控制面(Control Plane)和数据面(Data Plane)。

text
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
    用户 / RDS 控制台
|
API Gateway
|
RDS API Server
/ | \
元数据库 任务编排 权限/配额
|
云资源适配器
/ | \
计算 存储 网络
|
DB Node / VM
|
DB Agent
|
MySQL
|
监控 / 备份系统

控制面接受 API 请求、维护资源的期望状态、编排异步任务和查询操作进度。数据面是真正运行 MySQL 的节点,处理业务的 SQL 请求。业务流量一般不应该经过 RDS API Server。

我会先设计五个逻辑组件(初期可以放在同一个仓库或少量服务里,不必过早拆成几十个微服务):

组件 职责 一种可行实现
RDS API Server 鉴权、参数校验、实例查询、管理操作 Go + HTTP/gRPC
元数据库 保存实例、节点、规格、网络、任务、拓扑元信息 PostgreSQL/MySQL
任务编排 Worker 创建、删除、配置变更、扩容等长任务 Go Worker + 持久化任务状态
云资源适配器 调用 VM、块存储、网络及对象存储 API 云平台 SDK
DB Agent 部署 MySQL、修改配置、执行命令、健康上报 Go + gRPC

这里的 Agent 是部署在数据库节点上的运维执行程序,不是今天常说的 LLM Agent。

最重要的领域模型

资源 含义
Tenant / Project 租户及其资源归属
Region / AZ 地域与可用区
Instance 用户看到的逻辑数据库实例
DB Node 实际运行 MySQL 的物理/虚拟节点
Specification CPU、内存、磁盘、IOPS 等规格
Network / Endpoint VPC、子网、端口、连接入口
Operation / Task 一次长时间的管理操作
Backup 备份集及恢复点
Cluster Topology 主从角色和复制关系(高可用阶段引入)

尤其要区分 Instance 与 DB Node。一个单机实例可能只有一个 Node,但同一个逻辑实例升级为主备架构时,会对应多个 Node。把两者一开始混为一谈,后续做主从切换和扩容会非常痛苦。

四、第一个 MVP:先打通“创建一个 MySQL 实例”

我不会先做高可用,也不会先做复杂的调度平台。第一阶段只验证一条最关键的纵向闭环:

用户提交创建请求 → Server 生成任务 → 云资源交付 → Agent 部署 MySQL → 验证可用 → 返回连接地址。

1. API 先采用异步任务模型

创建数据库不是普通的毫秒级接口。创建 VM、挂载磁盘、初始化 MySQL 可能需要较长时间,而且每一步都可能失败。

因此不应该让 HTTP 请求一直阻塞到数据库创建完成。

1
2
3
4
5
6
7
8
9
10
11
12
POST /api/v1/rds/instances
Idempotency-Key: request-123
Content-Type: application/json

{
"engine": "mysql",
"version": "8.4",
"cpu": 2,
"memory_gib": 4,
"storage_gib": 100,
"network_id": "vpc-001"
}

Server 完成鉴权、配额和参数校验后,先保存实例及操作记录,返回:

1
2
3
4
5
{
"instance_id": "rds-001",
"operation_id": "op-1001",
"status": "CREATING"
}

随后 Worker 异步执行任务。控制台通过查询实例和 Operation 状态展示创建进度。

2. 创建实例的执行步骤

  1. 资源预检查:校验规格库存、网络、容量、配额、租户权限、请求幂等。
  2. 创建元数据:生成 Instance ID,保存期望配置和 CREATING 状态。
  3. 申请基础设施:创建 VM、块存储及网络资源,记录每个资源的 ID。
  4. 初始化 Agent:使用镜像或启动脚本安装 Agent,并建立经过认证的通信通道。
  5. 部署 MySQL:初始化数据目录、生成配置、设置凭据和启动服务。
  6. 健康验收:测试连接、认证、读写及必要的监控采集。
  7. 交付实例:登记 Endpoint,状态转为 RUNNING,记录操作审计。
    完成这一条链路后,再补齐查询、重启、参数变更、删除等管理操作,就有了第一个真正可以演示的 MVP。

3. 这里最容易忽略什么?

幂等、失败恢复和资源回收。

比如 Worker 在创建 VM 成功后宕机,任务重新执行时不能再创建第二台 VM。每一步都应记录外部资源 ID 和执行状态,恢复时先检查实际状态,再决定是否重试。

删除实例同样不能只是“删一条元数据”。它要依次处理数据保护策略、停止服务、释放计算与存储、清理网络和密钥、登记审计信息。涉及用户数据时,不能因为失败补偿就随意删除已产生的数据。

因此,我更倾向于把长任务设计成“持久化操作 + 状态协调”,而不是在一个 Go 函数里顺序执行一堆远程命令。

五、第二阶段:从能用走向可在生产中使用

当实例能创建、查询、删除以后,我们仍然不能说 RDS 已经成熟。数据库一旦存放了真实业务数据,备份、安全、监控和日常运维就成为基础要求。

1. 安全和多租户能力

  • 控制台及 API 的身份认证和 RBAC/IAM。
  • Instance、Node、备份等资源按租户和项目隔离。
  • 网络默认私有化,通过 VPC、安全组和访问控制限制连接。
  • 管理员密码和数据库凭据安全保管,避免在日志中输出明文。
  • 管理操作审计、配额与租户级限流。

2. 监控和告警

  • 节点:CPU、内存、磁盘使用率、IOPS、网络。
  • MySQL:连接数、QPS、TPS、慢 SQL、锁等待、复制状态。
  • 平台:任务成功率、任务耗时、Agent 心跳、控制面 API 错误率。
  • 告警:磁盘空间不足、数据库不可连接、备份失败、复制延迟等。
    健康检查不应该只依赖进程在不在,还要根据业务要求检查 SQL 可执行性和连接体验。

3. 备份与恢复

最初可以支持手动/定时全量备份、备份保留期,以及从备份创建一个新实例。之后通过 Binlog 归档实现指定时间点恢复(PITR)。

text
1
2
3
4
5
6
7
8
9
全量备份(基线)
+
持续保留的 Binlog
|
v
恢复到目标时间点
|
v
验证恢复实例的数据

MySQL 官方的 PITR 文档 也采用全量备份结合 Binary Log 进行后续增量恢复的思路。

但比“备份任务成功”更重要的是定期进行恢复演练,验证备份可读、Binlog 连续、恢复过程可执行、数据完整且恢复时间符合目标。

4. 配置和基础运维

支持配置模板、参数合法性校验、动态生效与重启生效的区分、变更记录;再加入手动升配、磁盘扩容和版本补丁管理。对于有停机风险的操作,必须告知用户影响范围和预计操作阶段。

到这个阶段,RDS 才逐步具备生产基础能力。

六、第三阶段:研发高可用 RDS

单实例一旦遇到数据库宕机、VM 故障或者所在可用区故障,就可能长时间不可用。高可用模块因此是从“托管数据库”走向成熟云数据库的重要门槛。

我会按四个迭代推进:

迭代 主要交付
HA 1.0 主从复制、GTID、集群拓扑管理和主从状态展示
HA 1.1 稳定的连接入口、数据库代理与读写路由(如 ProxySQL)
HA 1.2 健康检测、唯一故障转移执行者、自动或人工切换
HA 1.3 脑裂防护、数据一致性策略、故障演练、RTO/RPO 验收

参考我之前整理过的工作笔记,曾经讨论过 ProxySQL、Keepalived、VIP、自研哨兵和 Leader 选举等方案。不过,这篇文章先只讨论研发路线;这些组件的适用条件、复杂度及生产安全性需要单独讨论,不能直接当成唯一标准答案。

高可用实现里,真正困难的地方不是“把一个从库提升为主库”,而是:

  • 如何区分数据库真的宕机与网络分区,避免误切换。
  • 如何确保旧主库已经隔离,避免出现两个可写主库。
  • 如何根据 GTID 和复制状态选择可恢复且数据最完整的候选。
  • 如何降低连接重建和事务失败对业务的影响。
  • 故障切换任务执行一半时,如何由其他 Worker 安全接管。
    这部分会在系列第二篇详细拆解。

七、第四、五阶段:高级功能和商业化能力

基础能力稳定之后,再按业务价值扩展,而不是把所有功能都塞进首个版本。

能力 基础版 高级版/企业版
实例管理 创建、查询、删除、重启 批量操作、自动维护、滚动升级
规格 固定规格、手工升配 自动容量调整、低中断变更
可用性 单节点 + 备份恢复 主备 HA、跨可用区故障恢复
复制 基础主从 只读实例、读池、跨地域只读副本
备份 定时备份、恢复新实例 PITR、克隆、跨地域与不可变备份
安全 租户隔离、RBAC、TLS KMS、细粒度策略、合规审计
性能 基础指标与慢 SQL SQL 洞察、索引建议、容量预测
运维 手动操作和告警 自动巡检、异常诊断、自愈工作流
商业化 资源配额和用量记录 计量计费、套餐、账单、SLA 报表

如果是对外商业化平台,计量、账单、用户购买流程必须提前进入产品规划,只是可以逐步从最小用量记录做起。

AI DBA、自动根因分析、容量预测等能力值得探索,但它们建立在可靠的指标、日志、拓扑和运维操作接口之上。底层数据不可靠,AI 很难提供可信的诊断结果。

八、研发团队应该怎么安排迭代?

我不建议采用“先把所有 Server 写完,再开发 Agent,最后一起联调”的方式。更好的做法是每一个功能都形成纵向闭环:

text
1
2
3
4
5
6
7
需求澄清
-> 业务边界与验收标准
-> API / 数据模型设计
-> Server / Worker / Agent 实现
-> 集成测试与故障测试
-> 灰度发布与监控
-> 文档、运行手册和复盘

例如研发“扩容”:

  • 产品先明确支持哪些规格、是否允许降配、是否需要重启。
  • Server 定义扩容 API、权限校验和操作状态。
  • Worker 负责协调云资源规格变更。
  • Agent 负责数据库侧的必要动作和检查。
  • QA 验证扩容成功、资源不足、超时、重复提交和中途宕机。
  • 运维验收告警、回退/恢复流程和操作审计。
    每个阶段都要把“失败时怎么办”作为需求的一部分,而不是上线之后再补。

一个相对合理的里程碑安排

  • M0:基础条件就绪。计算、存储、网络 API 可用,明确租户/安全边界,打通 Server 到 Agent 的通信。
  • M1:单实例闭环。可以创建、查询、连接、重启和删除 MySQL。
  • M2:生产基础能力。监控、备份恢复、权限审计、配置管理、基本扩容。
  • M3:高可用闭环。主从、代理路由、故障转移、数据安全和故障演练。
  • M4:高级运维与规模化。只读副本、跨区容灾、自动巡检、多版本管理。
  • M5:商业化与智能化。计量计费、SLA、诊断、自愈及 AI 运维。
    这些是阶段依赖关系,不是固定的月度排期。真实顺序还要根据团队能力、已有基础设施、客户规模和产品定位调整。

九、回头看:RDS 最重要的工程能力是什么?

我现在更愿意把 RDS 理解为一套数据库资源生命周期管理系统,而不是一组管理 MySQL 的 API。

创建、扩容、备份、恢复、主备切换,本质上都具有相似的工程特征:

  1. 会调用多个外部组件,单个数据库事务无法覆盖整个操作。
  2. 执行时间长、可能超时,调用方和执行者都可能重启。
  3. 有些操作不能简单回滚,必须通过状态协调和安全补偿恢复。
  4. 系统必须持续发现“期望状态”和“实际状态”的差异。
  5. 一旦涉及用户数据,数据安全通常比尽快把状态标记为成功更重要。
    因此,真正值得投入设计精力的公共基础设施,是资源模型、异步任务编排、幂等性、状态协调、审计与可观测性。有了这些底座,后面增加高可用、扩缩容、备份和智能运维,才不会演变成难以维护的脚本集合。

如果只保留一句话作为这篇文章的结论,那就是:

开发 RDS,先实现数据库自动化交付,再补齐安全、备份与运维基础,最后围绕高可用和规模化形成成熟的云数据库服务。平台 Server 的真正价值,是可靠地协调这一切。


参考资料与后续文章

官方产品与技术资料:

  • Amazon RDS 用户指南
  • Amazon RDS 创建实例流程
  • MySQL 8.4 Replication 文档
  • MySQL 8.4 Point-in-Time Recovery
    下一篇计划:《RDS 高可用为什么难:从 Sentinel、ProxySQL 到 GTID 选主与故障恢复》,深入讨论故障误判、脑裂、防双主、复制一致性和分布式 Failover 状态机。