本文共 4718 字,大约阅读时间需要 15 分钟。
随着MySQL自身的发展与不断完善,不知不觉中整个互联网行业已离不开这个完善又小巧的关系型数据库,整个生态链也已经变得非常成熟,即便是初创企业和传统企业也可以放心大胆地把数据库迁移到MySQL上来。在大家和MySQL数据库愉快玩耍的同时,我来聊聊MySQL架构设计相关的一些话题。
数据库规范到底有多重要?有过初创公司经历的朋友应该都深有体会。规范是数据库运维的一个基石,能有效地减少数据库出问题的概率,保障数据库schema的合理设计并方便后续自动化的管理。
曾经我们花了大半年时间来做数据库规范化的工作,例如制定数据库开发指南、给程序员做培训等,推进的时候也会遇到一些阻力。但规范之后运维质量会有一个质的提升,也增进了DBA的工作效率。
在开发规范方面,我们划分为开发规范和运维规范两部分。
字段数量建议不超过20-50个。
做好数据评估,建议纯INT不超过1500万,含有CHAR的不要超过1000万。字段类型在满足需求条件下越小越好,尽量使用UNSIGNED存储非负整数,因为实际使用时候存储负数的场景不多。
将字符转换成数字存储。例如使用UNSIGNED INT存储IPv4地址而不是用CHAR(15),但这种方式只能存储IPv4,存储不了IPv6。另外可以考虑将日期转化为数字,如:from_unixtime()、unix_timestamp()。
所有字段均定义为NOT NULL,除非你真的想存储null。
1)所有表必须有显式主键
InnoDB表是以主键排序存储的IOT表
尽量使用短、自增的列做索引
复制结构使用row格式,如果表有主键可以加速复制
UNSIGNED INT自增列,也可以考虑BIGINT
TINYINT做主键可能导致MySQL Crash
类型转换会导致查询效率很低
可用uuid_short()代替uuid(),转成BIGINT存储
2)合理地建立索引
选择区分度高的列作为索引
单个索引字段数不超过5,单表索引数量不超过5,避免冗余索引
建立的索引能覆盖80%主要的查询,不求全,解决问题的主要矛盾
复合索引排序问题,多用explain去确认
1)避免在数据库中进行大量计算任务
大事务拆成多个事务,分批多次操作
慎用text、blob大型字段,如要用考虑好拆分方案
频繁查询的字典表考虑用Cache抗
2)优化join避免大表与大表之间的join,考虑让小表去驱动大表join
最多允许三表join,最好控制成两表
控制join后面where选择的行数
3)注重where条件,多用EXPLAIN确认
where条件的字段,尽量用区别度高的字段,这样走索引的性能更好
出现子查询的SQL,先确认MySQL版本,利用explain确认执行计划
进行分页优化;DML时候多个value合并
1)字符集问题表字符集选择UTF8,如果需要存储emoj表情,就改成UTF8mb4
2)Schema设计原则核心表字段数量尽可能地少,有大字段要考虑拆分
适当考虑一些反范式的表设计,增加冗余字段,减少JOIN
资金字段考虑统一*100处理成整型,避免使用decimal浮点类型存储
日志类型的表可以考虑按创建时间水平切割,定期归档历史数据
3)Schema设计目标快速实现功能为主,保证节省资源
平衡业务技术各个方面,做好取舍
不要在DB里进行大计算,减少复杂操作
整体来说,这部分规范还是很容易遵守的,实现起来也没有什么难度,就能取得很好的效果。
SQL评审这部分工作相信让很多的DBA同学都叫苦不迭,人肉审核不仅效率低下,容易出错,对DBA的自身发展也非常不利,难道我们来上班就是为了审核SQL的吗?在经过了一段痛苦的人肉审核之后,我们接入了去哪儿网开源的Inception,并根据自身的业务特点做了一些调整。当然现在开源的SQL评审软件已经很多了,大家可以自由选择,也可以自行开发。
在审核与执行上线DDL语句的时候,要注意MySQL官方原生Online DDL和Percona公司的pt-osc之间的一些差异,例如pt-osc在执行时每次都要copy全表,相对来说比较慢,好处是不锁表,并且有完善的条件检测和延时负载策略控制。官方Online DDL虽然官方也一直在改进,但生产环境使用还不是很完美,尤其要注意执行过程中容易导致MDL锁。官方Online DDL也有优于pt-osc的地方,比如增删索引,重命名列等。
MySQL从5.6开始,逐步完善了权限系统,比如MySQL5.6可以安装检查密码强度的插件,5.7开始增加了密码过期机制、账户锁定等功能,对SSL这一块也做了一些优化,8.0版本增加了角色的功能,权限系统已经逐步在向Oracle数据库靠拢了。在日常运维中,也可以使用pt-show-grants工具提高权限审查的力度。应用程序账号应只赋予SELECT、INSERT、UPDATE权限,DELETE的逻辑改用UPDATE实现,并启用sql_safe_updates选项。
另一个有效控制权限的方法就是SQL堡垒机,早期我们通过改造MyWebSQL实现,在Web版客户端的基础上加入了一些资源控制策略、审计、语法校验等功能。后续又使用Python开发了功能更完备的SQL堡垒机,同时支持MySQL、Oracle、Greenplum等数据库。
MySQL高可用方面,目前业界主流依然是基于异步复制的技术,例如Keepalived、MHA、ZooKeeper等,要求数据强一致的场景逐步开始使用分布式协议,这方面的典型代表有PXC、Group Replication、TiDB。下面我们就重点来说说keepalived、MHA和PXC这几种大家用得比较多的架构。
业内使用非常普遍,它部署容易、方便维护,还节省服务器资源。这种架构的一个好处就是在发生切换后,原Master只需重新拉起来即可恢复高可用,不需要过多干预。扩展起来也方便,可以任意挂载只读库和灾备库。但它存在的问题也很明显,比如Keepalived的检测机制不完善、有脑裂隐患、数据一致性较弱等等。
还需要注意主从拓扑的设计。如下图,只读库挂到哪个Master比较合适?显然是M2,其它两种拓扑在发生切换后都会影响到只读库的访问。
MHA自诞生以来,就得到了业内的广泛关注,并迅速流行开来。与keepalived相比,MHA最大的优点就是在发生故障切换之后,能自动补齐binlog,最大程度保证数据一致性。从服务器能自动切换,无需人工干预,能非常好的工作在读写分离的环境下。基于Perl语言的脚本也非常方便进行二次开发。MHA非常适合读写压力比较大的应用。
但由于MHA在工作时需要配置SSH互信,因此选择这种架构时内网安全一定要做到位。另外也可以搭配Binlog Server使用。
PXC全称是Percona XtraDB Cluster,是Percona公司基于Galera协议开发的一个产品。PXC牺牲了CAP里面的P(Partition Tolerance),保留了C(Consistency )和A(Availability )。这种结构非常适合电商、金融类业务,自PXC和Group Replication出现以后,MySQL彻底扫清了进入金融行业的障碍。
PXC的优势:同步复制,解决了传统架构复制延迟和脑裂的问题数据强一致多主复制,每个节点都可以读写数据并行复制,多个事务可以并行推送到其他节点高可用,单点故障不影响集群可用性新节点自动部署与传统MySQL几乎完全兼容使用PXC要注意的问题:不要有大事务木桶效应,集群性能取决于性能最差的那个节点并发效率有损失网络要求较高,建议万兆网络多点并发写时锁冲突、死锁问题多写无法扩展,无法解决热点更新问题
接下来是第三个议题,MySQL拆分原则和分库分表设计。
首先先提一个问题,为什么要拆,不拆不行吗?按照我们的经验来看,当数据和业务到了一定的规模,都不可避免的要面临分库分表的问题。这就好像汽车的发动机一样,要达到更高的性能,4缸6缸明显是不够用的,V8、V12才是王道。
拆分能解决如下几个问题:单库并发较大单库物理文件太大单表过大,DDL无法接受防止出现性能瓶颈,提升性能防止出现抖动不稳定现象确定要进行数据库的拆分了,应该怎么拆呢?
优点:拆分简单明了,拆分规则明确应用程序模块清晰,整合容易数据维护方便易行,容易定位缺点:表关联需要改到程序中完成事务处理变的复杂热点表还有可能存在性能瓶颈过度拆分会造成管理复杂
优点:不会影响表关联、事务操作超大规模的表和高负载的表可以打散应用程序端改动比较小拆分能提升性能,也比较易扩展缺点:数据分散,影响聚集函数的使用切分规则复杂,维护难度增加后期迁移较复杂
分库的优点:实现简单,库与库之间界限分明,便于维护缺点:不利于频繁跨库操作,单表数据量大的问题解决不了
分表的优点:能解决分库的不足点缺点恰恰是分库的优点,分表实现起来比较复杂,特别是分表规则的划分,程序的编写,以及后期的数据库拆分移植维护
一巴掌拍板直接选分库或分表都是不可取的,主要是看需要达到什么样的扩展方式,才能决定先分库还是先分表,根据具体的场景决定。分库分表的最终目的还是为了扩展,而且要看拆分的规划设计是针对哪一层。
最后一个议题,我们聊一讲NoSQL。NoSQL现在遍地开花,应用也很广泛了,业内用的比较多的主要集中在Redis、MongoDB、Cassandra等NoSQL数据库上。今天我们主要来说说和MySQL关联最为密切的Redis。
数据存储在内存中,访问速度快能支持大批量操作及爆发性负载数据结构丰富,有效缓解MySQL压力协议简单,支持各种语言的API存储大量数据无需担心性能Redis主要作用还是抗读的压力。读操作先到Redis,Redis中取不到再从MySQL数据库访问,从MySQL读取到数据后,还要回写到Redis。
性能方面,由于Redis完全是基于内存的访问,性能无需担心。
在使用Redis时,要注意Cache 和Storage不要混合使用。不要依赖Redis的持久化,持久化这一块Redis要努力的还很多。另外如果你把Redis拿来做Storage的话,一旦Redis的内存跑满,那就惨了,所有的Redis连接都会卡着不响应。如果只是把Redis来做cache的话,那问题就不大。
还有诸如缓存穿透、缓存雪崩、热点key重建时缓存失效这些问题也是重点关注的对象。
1)利用K/V结构,缓存结果,例如存储用户信息、全局排行、统计信息等。
2)利用其丰富的数据结构为MySQL减压,例如计数器、排序、Hash(把表映射到Redis中)、消息队列等。
系统架构设计是一个长期总结与进化的过程,讲究均衡与取舍。在进行大规模MySQL架构设计的过程中,除了要汲取别人的经验之外,还要关注各种架构背后的业务场景与架构思想,与自己的实际业务场景相结合,才能设计出一个好的系统架构来。
转载地址:http://vwdfk.baihongyu.com/