查看: 343|回复: 0

分布式、服务化的ERP系统架构设计

[复制链接]

该用户从未签到

发表于 2019-11-4 17:01:00 | 显示全部楼层 |阅读模式
erp之痛

       曾几何时,我混迹于电商、珠宝行业4年多,为这两个行业开发过两套大型业务系统(ERP)。作为一个ERP系统,系统主要功能模块无非是订单管理、商品管理、生产采购、仓库管理、物流管理、财务管理等等。作为一个管理系统,各人的一般开发习惯就是使用.Net或Java技能,创建一个单块(单历程)架构的应用,只有一个SQLServer或MySql数据库。然后在项目文件中分一下各个模块,三层布局方式构造代码编写开发。最后测试,交付上线。

        起初,因为数据量不大,系统性能还不错,各种列表查询,报表查询,EXCEL数据导出功能等用的都很流畅。但是随着公司业务发展,订单量日积月累,后期各种业务部门的报表查询、数据导出需求不绝增多,我们徐徐就感觉系统运行越来越慢。于是我们可能最先想到的解决方案就是,优化系统瓶颈数据库这个大头。我们可能的一种尝试就是将数据库单独放置到一个服务器,实现数据库和应用程序分离,或者是创建各种数据库表索引,优化程序代码等方法。经过这样一番研究优化,系统某些功能可能性能的确大大提高,但是我们还是发现某些功能列表的数据查询导出依然很慢,或者随着数据量继续积聚,原来较快的列表导出功能,也愈来愈变得缓慢了。我们用尽各种办法,最后也达不到理想的系统性能速度。

        为了提高系统性能,我们也许会主动学习一些互联网公司的技能履历,什么高并发、高性能、大数据、读写分离等方案,发现自己根本无从下手。我们会以为因为系统业务特点不一样。ERP系统并发量不高,主要是业务复杂,各种业务耦合度远高于那些互联网应用,不好做拆分,数据查询逻辑要远比互联网系统复杂,一个列表页查询出来的数据,往往必要关联4、5张表才能得到结果。有些报表类的甚至更多。加上各种业务操作事务性、数据同等性要求很高,很多时间导致我们措不及手,无法进一步优化系统。

        曾几何时,我也被这样或那样的理由所挫败,认为ERP系统非常特殊,无药可救,但是后来。。。

        我如今已经不这么认为了,好像有了新的解决方案O(∩_∩)O哈哈~

曙光乍现

       在叙述详细方案前,先说下自己的想法。我起首以为我们做ERP系统前,就得有当今互联网头脑。我们不要再去做一个大一统的系统了。我们要分拆一个大系统,做成一个个小系统。然后通过系统接口让这些小系统相互通信。这样来组成一个大系统,详细来说就是“分布式”、“服务化”的互联网头脑。让系统在架构计划上就是一个先天支持高度可扩展的系统。

       怎么做呢?详细来说就是要将订单管理、商品管理、生产采购、仓库管理、物流管理、财务管理拆分成一个个子系统。这些子系统可以单独计划开发,对外暴袒露各种其他子系统需求的数据接口即可。每个子系统都有单独的数据库。甚至这些子系统可以交由不同的团队去开发和维护,使用不同的技能体系,使用不同的数据库。而不是再像从前那样,都集成在同一个大而全的系统中,一个大而全的数据库。

       对于新架构的系统他有什么优点呢?

       起首,也是最重要的就是解决系统的性能题目。以往数据库实例只有一个,没法扩展出多个实例,以便在性能受限的环境下依靠增加数据库实例来达到负载均衡。也许有人会说可以使用读写分离方案,但是因为ERP系统的特点,这个方案很多时间不现实。比如说操作库存的时间,你不能从读库里读库存,然后在写库里写入库存。因为主从复制会偶尔效性,写入的库存并不能立刻写入从库。这样的场景在ERP中也有多处。何况写库不能扩展,只能有一个。而新计划方案是写库是分离的,每个子系统有自己的数据库。

       其次,就是更新非常方便,各个子系统以后台微服务的方式存在。前台一个单独的web项目,这个web项目调用后台这些子系统的服务接口。这样的计划,在某个业务子系统必要更新的时间,可以单独更新。不消像从前那种单历程架构时,一个小更新必要整个系统重启,导致用户会话也丢失,用户必要新登录。而如今的这种计划就不会有这个题目。

系统整体计划

      系统物理部署视图


详细计划

   拆分应用层

        拆分应用层,是践行“微服务”架构的理念。将原来大而全的单历程架构按照业务模块拆分成可独立部署的应用程序,以此来达到平滑系统更新、升级、方便负载扩展的目的。详细来说,技能上可以使用restfull风格的接口,也可以使用像java中dubbo框架方式来简化开发复杂度。ERPWeb端或其他移动端也是一个单独的应用充当体现层。非常薄,只是简单的接受参数,调取后台其他各种微服务程序的接口获取所需展示的数据。微服务充当业务逻辑层,每个微服务都是可独立部署上线的程序,对外提供数据访问接口。

        微服务可以使用流行的各种RPC框架,比如dubbo,可以支持多种调用协议Http、TCP等,这些框架使得编码比较容易,框架封装底层数据通信细节,使得客户端执行远程方法犹如执行本地方法一样简单。

        dubbo微服务架构,还支持服务管理,负载均衡等功能。这样不仅可以提高系统的可用性,还能动态提升系统应用层的性能。比如仓库管理中入库业务非常繁忙,占用非常多的CPU和内存资源,我们可以另外加一台机器,单独再部署一个仓库管理服务上去。这样使得整个系统,有两个仓库管理服务在同时工作,平衡负载。而这一切都是在服务注册中心,比如Zookeeper下自动完成的。

        微服务布局,天生很好的支持系统更新升级操作。比如财务模块有个新需求必要上线,我们只必要更换财务模块的服务重启即可。这对已经登录系统的用户来说,没有多少影响,不消重新登岸系统,其他模块服务使用也不受影响。

    拆分数据层

        数据库瓶颈是ERP系统的永久之伤。大量复杂的数据查询表连接逻辑充斥着整个系统。数据库垂直拆分成功的关键就是怎样重新计划系统数据层各个模块相互耦合的题目。能解决这个题目,永久之伤便可以解决了。

我们先来看一个典型数据层模块耦合题目。需求是展示物料库存,列表字段:物料编号、物料名称、品类、仓库、数量

物料表:

物料ID

名称

品类ID

Z0001

Iphone6赤色手机壳

Z

Z0002

iPhone6黑色手机壳

Z

库存表:

物料ID

仓库ID

数量

Z0001

W1

10

Z0002

W1

20

       品类和仓库表省略。。。

        很显然,传统一个数据库中,我们只必要简单的join操作,即可关联这两张表,外加关联品类和仓库表即可查询出我们所要的数据。但是如今我们的架构中,物料表和商品表不在同一个数据库实例中,我们不能使用join操作了,那我们该怎么实现需求呢?

        新的架构,只答应我们通过对方的服务接口来获取数据,不能直接关联对方服务的私有数据库。至少从架构上,服务化角度来说不能直接访问对方服务的数据库。这种环境下,假设web模块子系统调用仓库子系统来获取数据,则我们必要在仓库模块中创建一个service方法来装配这些数据。然后返回给web子系统。如下图所示,仓库管理方法起首获取本地库存表的物料编码、和仓库表的仓库名称字段信息,并且分页完后最终准备返回20条数据到Web模块前,将这20条数据中的物料ID作为参数请求商品模块子系统,商品子系统返回这20个物料ID相关的商品信息给到仓库管理模块,然后仓库管理模块重新组装上列表所需的物料名称和品类两个字段数据,实现最终要返回给Web子系统的数据。


        也许你会说,这太贫苦了,这种方法的性能肯定没有直接join来的高,解决不了性能题目。咋看起来好像是这么回事,但是仔细考虑看看,在系统并发量低、数据量小、业务不算繁忙的环境下,的确性能还不如传统一个数据中join方式来的快速。但我们想想以后吧!我们如今的架构计划是将一个数据库拆成多个数据库,每个数据库可以运行在单独的服务器上去,这样以后就能负载数据库的压力了。整体来说这样才能不会让数据库成为将来业务繁忙时间的性能瓶颈了。想想都以为让人兴奋不已,是不是?

       这时间有人又会问,那以后系统数据量、业务更大了,连你这个拆分成几个数据库还不够用怎么办呢?我的方法是,可以基于拆分的数据库,单独每个库可以做读写分离、使用缓存等。甚至可以继续拆分下去,将子系统再次拆分成多个孙子系统。视业务模块繁忙程度而定。

报表系统

        有人又会问,有些列表查询逻辑非常复杂,关联十多张表,如果按上述方法拆分数据,那简直是劫难啊!是的,你说的没有错。这种环境下我的方案是将这种更加复杂的报表级别的数据查询展示需求,可以单独做个报表系统。报表数据库计划采用数据仓库方式。为了更高的读取性能,我们可以将数据库表计划成很多冗余字段方式也就是反范式计划,以及创建非常多的组合索引。

       这种系统成功的关键就是数据和主ERP系统业务库的同步题目了。一般可以写一个定时同步程序,将ERP主业务系统的数据经过帅选、转化等方式直接天生报表视图所需的最终或中间数据,简化关联查询。报表系统也可以采用微服务架构计划。如下图所示:


        如果报表所需的数据要求实时的,我们可以让ERP系统业务操作时,触发同步数据的请求,实时同步至报表库。

分布式事务

       也许有人又又问了,ERP系统很多操作都要求事务性,你拆分系统后怎么实现事务性,保障数据同等性呢?

这个题目很好,也是我决定写这篇文章前思考的最后一个题目。在微服务架构中,实现夸服务的事务并不容易,至少不像本地应用使用本地数据库事务那样方便,性能高效,数据同等性好。

        也许你听过分布式事务这个概念。有两种景象,一种是一个应用中使用多个数据库,为保障数据同等性,必要使用分布式事务。尚有一种环境就是针对我们这个架构而言的。微服务环境下的分布式事务,详细来说打个比方。采购入库这个操作计划在仓库管理服务中。入库后,必要更新采购子系统中的采购单中的入库数量。这个过程要求数据同等性,也就是采购单入库成功后写入了库存表中的数量,同时要更新采购单表中的入库数量。我们不能直接在仓库服务中去访问采购服务中的数据库,必须通过采购服务提供的服务接口才行。如果这样,我们怎么能包管数据同等性呢?因为很有可能库存表写入成功,但调取采购服务写入采购单数据时失败了。可能是网络题目缘故原由导致的,这样数据就不同等了。

       在分布式事务技能中,有实现最终同等性这么一说,意思就是只要我能包管两边数据最终实现了同等性就行,不一定要使用事务。这样说来就有方案了。如仓库子系统在处置惩罚采购入库时必要增加入库单数据和更新库存数据等多个表。这多个表都在仓库子系统中,我们可以使用一个本地事务来包管仓库子系统中的表数据同等性。然后调用采购子系统更新采购单里的入库数量。为了防止这个过程突然中断导致调用失败,我们考虑增加一个消息队列中间件如ActiveMQ。如果接口返回失败我们就往MQ里写入这个处置惩罚请求,等到采购子系统规复正常后,MQ通知采购子系统处置惩罚这个更新操作。由于消息消费掉以后不会再有通知了,采购子系统处置惩罚过程中发生非常导致更新失败,必要将题目写入本地的日志库,以便通知管理员做后续补偿处置惩罚。就这样通过各种办法来达到数据的最终同等性即可。虽然听上去有点坑,但这就是解决方案。没有其他更好的了。或者更新失败后重新调用仓库子系统回滚入库单和库存数据,达到最终同等性!如图所示:


       非常有幸能和各人一起分享知识和履历,正是由于各人的无私分享,才让我们得以成长和进步,我近来几年来都很少分享东西,偶尔候是因为工作很忙没偶尔间写点东西,偶尔候也是因为自己懒或是没有什么新东西可以分享给各人的。最后也希望各人对我的分享不敷之处给予批评指正,一起进步!


相关技术服务需求,请联系管理员和客服QQ:2753533861或QQ:619920289
您需要登录后才可以回帖 登录 | 用户注册

本版积分规则

帖子推荐:
客服咨询

QQ:2753533861

服务时间 9:00-22:00

快速回复 返回顶部 返回列表