最火的HTAP数据库 京东智联云新一代分布式数据库TiDB架构揭秘

• TiKV： 分布式KV存储，支持完全弹性的扩容和缩容，数据分布在多个TiKV存储节点中，系统会动态且自动地进行均衡，不需要人工介入。TiKV的API能够在KV键值对层面提供对分布式事务的原生支持，默认提供了SI （Snapshot Isolation）的隔离级别。TiKV中的数据都会自动维护多副本（默认为 3），天然支持高可用和自动故障转移。

• Placement Driver (简称 PD)： 整个TiDB集群的元信息管理模块，负责存储每个 TiKV 节点实时的数据分布情况和集群的整体拓扑结构，并为分布式事务分配事务ID。同时PD会根据TiKV节点实时上报的数据分布状态，下发数据调度命令给具体的TiKV节点，可以说是整个集群的「大脑」。PD本身也是由至少3个对等节点构成，拥有高可用的能力。

京东智联云上的TiDB基于Kubernetes部署，使得TiDB更加灵活可靠。具体部署架构如下图：

*（为了便于描述，TiDB的数据库实例我们称为TiDB集群，单个TiDB-server我们称之为TiDB节点）

用户VPC内的云主机通过 网络负载均衡（NLB） 访问TiDB集群，集群中的多个TiDB节点可以进行负载分担，共同提供服务，实现了 “双活” 乃至 “多活” 的能力。京东智联云TiDB集群支持3可用区的部署架构，默认3数据副本，每个可用区一个数据副本。即使某一可用区失效后，数据库服务仍然可用并且不发生数据丢失。同时通过设置亲和性，可保证每个可用区的TiKV实例数保持大致均衡。

此外，PD节点默认为3个节点，每一个可用区都有PD实例，保证PD的高可用。在这种架构下，集群中的所有节点，包括TiDB、TiKV及PD节点都具有高可用性，整个数据库环节无单点故障，任一节点的故障均不影响TiDB集群的对外提供服务。

同时，TiDB集群还接入了 京东智联云整体的监控告警服务及日志系统， 可全面监控TiDB实例的运行状况，用户通过控制台即可TiDB实例进行创建，扩容、删除等生命周期的管理。

下面再简要介绍一下京东智联云TiDB集群的主要能力及实现：

京东智联云TiDB可 自动进行全量备份，并将备份数据存储在对象存储（OSS）中。 在备份过程中，TiDB不会直接把数据写到本地磁盘上，而是先缓存在内存中，然后再传送到对象存储上，通过这种方式不但提高了备份的效率，也降低了对磁盘的消耗。在进行恢复时，也支持将对象存储上的备份数据恢复到一个新的TiDB集群里面，而不覆盖原TiDB实例，最大程度的保证用户数据的安全，防止误操作。

TiDB在京东智联云上的升降配是通过在线动态增加节点（或减少节点），来达到扩容的目的。TiDB可提供近似无限的水平扩展能力，这是 TiDB 的最大特点。这里说的水平扩展包括两方面： 计算能力 和 存储能力 。

• TiDB节点负责处理SQL请求，随着业务的增长，可以简单的添加 TiDB节点，提高整体的处理能力，提供更高的吞吐量。

• TiKV节点负责存储数据，随着数据量的增长，可以部署更多的 TiKV解决数据扩展的问题。TiKV节点之间以Region为单位做调度，将部分数据迁移到新加的节点上。

所以在业务的早期，可以只部署少量的服务实例（推荐至少部署3个TiKV， 3个PD，2个TiDB），随着业务量的增长，按照需求添加TiKV或者TiDB实例。

京东智联云TiDB通过TiFlash节点可以支持在线分析功能。TiFlash是TiDB HTAP形态的关键组件，它是TiKV的列存扩展，TiFlash实时复制TiKV集群中的数据，并同时提供与TiKV一样的一致性读取，且可以保证读取到最新的数据。TiDB可以自动选择使用TiFlash列存或者TiKV行存，甚至在同一查询内混合使用提供最佳查询速度。

TiDB集群支持CSV格式的数据文件高速导入到TiDB集群，导入速度每小时可达 500G ，是传统SQL导入速度的数倍。TiDB使用对象存储（OSS）存储要导入的数据文件，首先会对数据源进行解析，筛选出DDL这些建表的语句，并在目标集群建立库和表；然后对表数据进行解析和编码，转换成与 TiDB相同编码的键值对，并对键值对排序，写入本地临时存储文件中。最后批量将这些键值对写到各个TiKV节点中。导入后，TiDB会对比导入数据源及目标集群的校验和 (checksum)，确保导入的数据是正确的。

京东智联云TiDB可支持主从集群，可通过binlog进行数据同步，准实时的将主集群的数据同步到从集群（本地或异地）。主集群负责应用接入提供读写服务，从集群负责同步主集群数据以及故障接管。同时从集群还可以承载如数据查询，报表分析等数据查询业务，分担主集群业务压力，提高资源利用率的影响。（该功能即将推出）

TiDB具有完善的监控和告警功能。TiDB的报警分为两类：

• 一是资源层面的报警， 由Task Monitor组件监控数据库中资源状态和使用情况，例如CPU，存储以及集群中各个节点的运行状态等。如果发现资源状态或使用异常则会产生告警，并通过邮件或短信方式进行通知。

• 另一类报警是通过日志采集K8S集群中POD和TiDB集群中的节点的日志， 通过配置报警规则过滤对应的关键字触发报警。

此外，TiDB集群自身也提供了极其丰富的监控指标，用户可以直接使用浏览器访问TiDB集群的监控端口，查看TiDB上百个指标的详细信息。

• 高并发、海量数据的OLTP系统

由于TiDB可提供无上限的、线性扩展的高并发、高吞吐的集群处理能力，因此可简单地把TiDB 当作一个可无限扩展的MySQL使用， 可极大的简化程序设计，降低运维复杂度，是传统数据库中间件、数据库分库分表等方案优雅而理想的替换产品。

• 海量数据高性能实时分析

TiDB可以提供可扩展的、无上限的实时写入能力，同时，TiDB独有的强大分布式查询引擎可提供比MySQL快1~2个数量级的复杂查询性能，用户可将TiDB用于各种实时分析场景。

目前，京东智联云和PingCAP公司深度合作推出的TiDB产品已正式发布，欢迎大家点击 【阅读原文】 来体验云时代的新一代分布式数据库。