SpringBoot-18-dubbo+zookeeper

1. 什么是分布式系统

在《分布式系统原理与泛型》一书中有如下定义：

“分布式系统是若干独立计算机的集合，这些计算机对于用户来说就像单个相关系统”

• 分布式系统是由一组通过网络进行通信，为了完成共同任务而协调工作的计算机节点组成的系统。

• 分布式系统的出现是为了用廉价的，普通的机器完成单个计算机无法完成的计算，存储任务。其目的是利用更多的机器，处理更多的数据。

• 分布式系统是建立在网络之上的软件系统。

注意事项：

• 首先需要明确的是，只有当单个节点的处理能力无法满足日益增长的计算、存储任务的时候，且硬件的提升（加内存、加磁盘、使用更好的CPU）高昂到得不偿失的时候，应用程序也不能进一步优化的时候，我们才需要考虑分布式系统。

• 因为，分布式系统要解决的问题本身就是和单机系统一样的。

• 而由于分布式系统多节点、通过网络通信的拓扑结构，会引入很多单机系统没有的问题，为了解决这些问题又会引入更多的机制、协议，带来更多的问题。

2. 系统架构的演进

2.1 单体应用架构（All in one）

• 当网站流量很小时，只需要一个应用，就能将所有的功能都部署在一起，以减少部署节点和成本。此时，用于简化增加改查的数据访问架构（ORM）是关键。

适用于小型网站，小型管理系统，将所有功能都部署到一个功能里，简单易用。

缺点：

1、性能扩展比较难

2、协同开发问题

3、不利于升级维护

2.2 垂直应用架构 (MVC)

• 当网站访问量逐渐增大，单一应用增加机器带来的加速度越来越小，将应用拆分成互不相干的几个应用，以提升效率。此时，用于加速前端页面开发的Web框架（MVC）是关键。

优点：

• 系统拆分实现了流量的分单
• 可以针对不同的横块进行优化
• 方便横向扩展，负载均衡，容错率提高

缺点：

• 系统之间相互独立，会出现很多的重复开发，影响开发的效率

2.3 分布式服务架构(RPC)

• 当垂直应用越来越多时候，应用之间交互不可避免，
• 将核心业务抽取出来，作为独立的服务，逐渐形成稳定的服务中心，
• 使得前端应用能快速的响应多变的市场需求。此时，用于提高业务复用及整合的分布式框架(RPC)是关键。

优点：

• 将基础服务进行了抽取，系统间相互调用，提高了代码的复用和开发的效率

缺点：

• 系统间的耦合度提高，关系复杂，难以维护

分布式和集群的联系和区别：

• 分布式：一个业务分拆多个子业务，部署在不同的服务器上
• 集群：同一个业务，部署在多个服务器上
• 分布式中的每一个节点，都可以当作一个集群来实现
• 集群有个哨兵，主机宕机了可以有别的服务器顶上来，但是分布式如果有个节点宕机了，那么整个服务都不可用。
• 好的设计应该是分布式和集群的结合。先进行分布式再集群，具体实现就是把业务拆分成多个子业务，然后针对集群部署，这样每个子业务如果出现了问题，那么整个系统也不会受到影响

2.4 流动计算架构(SOA)

• 当服务越来愈多，容量的评估，小服务资源的浪费等问题逐渐显现，此时需要增加一个调度中心（基于访问压力实施管理集群容量，提高集群的利用效率。）
• 此时，用于提高机器利用率的资源调度和治理中心(SOA)是关键（Service-Oriented Architecture）面向服务的架构

阿里巴巴内部目前使用的框架：HSF（好舒服），是dubbo的升级版

以前出现了什么问题？

• 服务越来越多，需要管理每个服务的地址
• 调用关系错综复杂，难以理清依赖关系
• 服务过多，服务状态难以管理，无法根据服务情况动态管理

服务治理要做什么？

• 服务注册中心，实现服务自动注册和发现，无需人为记录服务地址
• 服务自动订阅，服务列表自动推送，服务调用透明化，无需关心依赖关系。
• 动态监控服务状态和监控报告，人为控制服务状态。

缺点：

• 服务之间会有依赖关系，一旦某个环节出错影响比较大
• 服务关系复杂，运维，测试部署困难，不符合DevOps思想

2.5 微服务

• 前面说的SOA，英文翻译过来是面向服务的编程。
• 微服务，似乎也是服务，都是对系统进行拆分。因此两者非常容易混淆，但其实却有一些差别：

微服务特点：

1.通过服务实现组件化

• 开发者不再需要协调其它服务部署对本服务的影响。

2.按业务能力来划分服务和开发团队

• 开发者可以自由选择开发技术，提供 API 服务

3.去中心化

• 让一切去中心化是微服务的最高宗旨，

• 每个微服务有自己私有的数据库持久化业务数据

• 每个微服务只能访问自己的数据库，而不能访问其它服务的数据库

• 某些业务场景下，需要在一个事务中更新多个数据库。这种情况也不能直接访问其它微服务的数据库，而是通过对于微服务进行操作。

• 数据的去中心化，进一步降低了微服务之间的耦合度，不同服务可以采用不同的数据库技术（SQL、NoSQL等）。在复杂的业务场景下，如果包含多个微服务，通常在客户端或者中间层（网关）处理。

4.基础设施自动化（devops、自动化部署）

• Java EE部署架构，通过展现层打包WAR，业务层划分到JARs最后部署为EAR一个大包，
• 而微服务则打开了这个黑盒子，把应用拆分成为一个一个的单个服务，应用Docker技术，不依赖任何服务器和数据模型，是一个全栈应用，
• 可以通过自动化方式独立部署，每个服务运行在自己的进程中，通过轻量的通讯机制联系（RESTful 或者 异步（消息队列/发布订阅）），经常是基于HTTP资源API，这些服务基于业务能力构建，能实现集中化管理（因为服务太多啦，不集中管理就无法DevOps啦）。

微服务的优点

• 每个微服务都很小，这样的单个服务很容易开发和维护
• 微服务能够被小团队单独开发，这个小团队是2到5人的开发人员组成
• 微服务是松耦合的，可以使用不同的语言进行开发

这里微服务有篇论文：我的博客里有中文阅读笔记，搜索tags 标签是微服务就可以找到啦！！

3. RPC(远程过程调用)

• remote produce call(RPC)

3.1 常见的远程调用方式

无论是微服务还是SOA，都面临着服务间的远程调用。那么服务间的远程调用方式有哪些呢？

• RPC : remote produce call
  • 可以自定义数据的格式，基于原生的TCP通信，速度快，效率高。
  • 早期的WebService 和 现在热门的dubbo , 都是 RPC的典型
• HTTP : http其实就是一种网络传输协议，
  • 基于TCP,规定了数据传输的格式，
  • 现在的客户端浏览器和服务端通信基本都是采用HTTP协议，，也可以用来进行远程服务的调用 ，缺点是消息封装臃肿。
  • 现在热门的是RESTFUL风格，就是通过HTTP协议来实现的。

3.2 认识RPC

• RPC ： 即 Remote Procedure Call（远程过程调用）
• RPC是一个计算机通信协议。该协议允许一台计算机远程调用另外一台计算机的子程序，而程序员并不需要知道这个底层的通信实现。
• 简单的来说： A计算机提供了一个服务，B计算机可以像调用本地方法一样的调用A的服务。

通过上面的概念，我们可以知道，实现RPC主要就是做到两点：

• 实现远程调用其他计算机的服务

  • 要实现远程调用，肯定要通过网络进行传输。A提供服务，B程序通过网络将请求的参数传递给A，A本地执行后得到结果，再把得到的结果返回给B。
  • 这里需要关注的是两点：
    • 现在比较流行的RPC框架，底层都是采用TCP作为传输协议
    • 数据传输的格式：两个程序进行通信，必须约定好数据传输的格式。就好比两个人聊天，要使用同一种语言一样，我们必须定义好请求和响应的格式，另外要在网络中做好序列化和反序列化的方式。

• 像调用本地服务一样调用远程服务

  • 如果仅仅是远程调用，还不算是RPC。因为RPC强调的是过程调用，调用的过程对用户而言是应该是透明的，用户不应该关心调用的细节。
  • 可以像调用本地服务一样调用远程服务。所以RPC一定要对调用的过程进行封装。

RPC调用流程图：

想要了解详细的RPC实现，给大家推荐一篇文章：自己动手实现RPC

4. Dubbo环境搭建

• Apache Dubbo |ˈdʌbəʊ| 是一款高性能、轻量级的开源Java RPC框架
• 提供三大核心功能
  • 面向接口的远程调用方法
  • 智能容错
  • 负载均衡
  • 服务自动注册和发现

• dubbo官网 http://dubbo.apache.org/zh-cn/index.html

4.1 Dubbo 基本概念

• 服务提供者（Provider）：暴露服务的服务提供方，服务提供者在启动时，向注册中心注册自己提供的服务。
• 服务消费者（Consumer）：调用远程服务的服务消费方，服务消费者在启动时，向注册中心订阅自己所需的服务，服务消费者，从提供者地址列表中，基于软负载均衡算法，选一台提供者进行调用，如果调用失败，再选另一台调用。
• 注册中心（Registry）：注册中心返回服务提供者地址列表给消费者，如果有变更，注册中心将基于长连接推送变更数据给消费者 (ZooKeeper)
• 监控中心（Monitor）：服务消费者和提供者，在内存中累计调用次数和调用时间，定时每分钟发送一次统计数据到监控中心 （Dubbo-admin）

调用关系说明：

• 服务容器负责启动，加载，运行服务提供者。

• 服务提供者在启动时，向注册中心注册自己提供的服务。

• 服务消费者在启动时，向注册中心订阅自己所需的服务。

• 注册中心返回服务提供者地址列表给消费者，如果有变更，注册中心将基于长连接推送变更数据给消费者

• 服务消费者，从提供者地址列表中，基于软负载均衡算法，选一台提供者进行调用，如果调用失败，再选另一台调用

• 服务消费者和提供者，在内存中累计调用次数和调用时间，定时每分钟发送一次统计数据到监控中心。

4.2 Zookeeper 安装

1. 下载zookeeper ：解压zookeeper https://zookeeper.apache.org/releases.html

2. 运行/bin/zkServer.cmd ，初次运行会报错，没有zoo.cfg配置文件；

可能遇到问题：闪退 !

解决方案：编辑zkServer.cmd文件末尾添加pause 。这样运行出错就不会退出，会提示错误信息，方便找到原因。

3. 修改zoo.cfg配置文件

将conf文件夹下面的zoo_sample.cfg复制一份改名为zoo.cfg即可。

注意几个重要位置：

dataDir=./ 临时数据存储的目录（可写相对路径）

clientPort=2181 zookeeper的端口号

修改完成后再次启动zookeeper

4. 使用zkCli.cmd测试

ls /：列出zookeeper根下保存的所有节点

1
2
3
4
5

[zk: 127.0.0.1:2181(CONNECTED) 0] ls /
[dubbo,zookeeper]

create -e /zhuuu 123   创建一个zhuuu节点，值为123
get /zhuuu             获取/zhuuu节点的值

4.3 dubbo-admin 安装

• dubbo本身并不是一个服务软件。它其实就是一个jar包，能够帮你的java程序连接到zookeeper，并利用zookeeper消费、提供服务。
• 但是为了让用户更好的管理监控众多的dubbo服务，官方提供了一个可视化的监控程序dubbo-admin，不过这个监控即使不装也不影响使用。

1. 下载dubbo-admin

https://github.com/apache/dubbo-admin/tree/master

2. 解压进入目录

修改 dubbo-admin\src\main\resources \application.properties 指定zookeeper地址

1
2
3
4
5
6
7
8
9
10

server.port=7001
spring.velocity.cache=false
spring.velocity.charset=UTF-8
spring.velocity.layout-url=/templates/default.vm
spring.messages.fallback-to-system-locale=false
spring.messages.basename=i18n/message
spring.root.password=root
spring.guest.password=guest

dubbo.registry.address=zookeeper://127.0.0.1:2181

3. 在项目目录下打包dubbo-admin

1

mvn clean package -Dmaven.test.skip=true

第一次打包的过程有点慢，需要耐心等待！直到成功！

打包完成后会产生一个jar包

4. 执行 dubbo-admin\target 下的dubbo-admin-0.0.1-SNAPSHOT.jar

1

java -jar dubbo-admin-0.0.1-SNAPSHOT.jar

【注意：zookeeper的服务一定要打开！】

执行完毕，我们去访问一下 http://localhost:7001/ ， 这时候我们需要输入登录账户和密码 默认的root-root；

登录成功后，查看界面

5. SpringBoot + Dubbo + zookeeper

测试环境搭建：

1. 启动zookeeper ！

2. IDEA创建一个空项目；

3.创建一个模块，实现服务提供者：provider-server ， 选择web依赖即可

4.项目创建完毕，我们写一个服务，比如卖票的服务；

5.1 服务提供者

1. 导入依赖(dubbo + zk)

1
2
3
4
5
6

<!-- Dubbo Spring Boot Starter -->
<dependency>
   <groupId>org.apache.dubbo</groupId>
   <artifactId>dubbo-spring-boot-starter</artifactId>
   <version>2.7.3</version>
</dependency>

zookeeper的包我们去maven仓库下载，zkclient；

1
2
3
4
5
6

<!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
<dependency>
   <groupId>com.github.sgroschupf</groupId>
   <artifactId>zkclient</artifactId>
   <version>0.1</version>
</dependency>

【新版的坑】zookeeper及其依赖包，解决日志冲突，还需要剔除日志依赖；

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

<!-- 引入zookeeper -->
<dependency>
   <groupId>org.apache.curator</groupId>
   <artifactId>curator-framework</artifactId>
   <version>2.12.0</version>
</dependency>
<dependency>
   <groupId>org.apache.curator</groupId>
   <artifactId>curator-recipes</artifactId>
   <version>2.12.0</version>
</dependency>
<dependency>
   <groupId>org.apache.zookeeper</groupId>
   <artifactId>zookeeper</artifactId>
   <version>3.4.14</version>
   <!--排除这个slf4j-log4j12-->
   <exclusions>
       <exclusion>
           <groupId>org.slf4j</groupId>
           <artifactId>slf4j-log4j12</artifactId>
       </exclusion>
   </exclusions>
</dependency>

2. 编写接口

1
2
3
4
5

package com.zhuuu.service;

public interface TicketService {
    public String getTicket();
}

3. 编写实现类

1
2
3
4
5
6
7
8
9
10
11
12
13
14

package com.zhuuu.service;

import org.apache.dubbo.config.annotation.Service;
import org.springframework.stereotype.Component;

// zookeeper: 服务注册与发现
@Service //将服务发布出去
@Component //放在容器中
public class TicketServiceImpl implements TicketService{
    @Override
    public String getTicket() {
        return "朱酱酱的个人学习门票";
    }
}

4. 在配置文件中配置dubbo相关属性！

1
2
3
4
5
6

# 当前应用名字
dubbo.application.name=provider-server
# 注册中心地址
dubbo.registry.address=zookeeper://127.0.0.1:2181
# 扫描指定包下服务
dubbo.scan.base-packages=com.kuang.provider.service

逻辑理解 ：应用启动起来，dubbo就会扫描指定的包下带有@component注解的服务，将它发布在指定的注册中心中！

5.2 服务消费者

1. 导入依赖，和之前的依赖一样；

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37

<!--dubbo-->
<!-- Dubbo Spring Boot Starter -->
<dependency>
   <groupId>org.apache.dubbo</groupId>
   <artifactId>dubbo-spring-boot-starter</artifactId>
   <version>2.7.3</version>
</dependency>
<!--zookeeper-->
<!-- https://mvnrepository.com/artifact/com.github.sgroschupf/zkclient -->
<dependency>
   <groupId>com.github.sgroschupf</groupId>
   <artifactId>zkclient</artifactId>
   <version>0.1</version>
</dependency>
<!-- 引入zookeeper -->
<dependency>
   <groupId>org.apache.curator</groupId>
   <artifactId>curator-framework</artifactId>
   <version>2.12.0</version>
</dependency>
<dependency>
   <groupId>org.apache.curator</groupId>
   <artifactId>curator-recipes</artifactId>
   <version>2.12.0</version>
</dependency>
<dependency>
   <groupId>org.apache.zookeeper</groupId>
   <artifactId>zookeeper</artifactId>
   <version>3.4.14</version>
   <!--排除这个slf4j-log4j12-->
   <exclusions>
       <exclusion>
           <groupId>org.slf4j</groupId>
           <artifactId>slf4j-log4j12</artifactId>
       </exclusion>
   </exclusions>
</dependency>

2. 配置参数properties

1
2
3
4

# 当前应用名字（暴露自己的名字）
dubbo.application.name=consumer-server
# 注册中心地址(去哪里拿服务)
dubbo.registry.address=zookeeper://127.0.0.1:2181

3. 本来正常步骤是需要将服务提供者的接口打包，然后用pom文件导入，我们这里使用简单的方式，直接将服务的接口拿过来，路径必须保证正确，即和服务提供者相同；

4. 完善消费者的服务类

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

package com.zhuuu.service;

import org.apache.dubbo.config.annotation.Reference;
import org.springframework.stereotype.Service;


@Service  // 与provider不同，这里是放到spring容器中
public class UserService {

    // 想拿到票provider-server提供的票,要去注册中心拿到服务

    @Reference  // dubbo引用  (pom坐标，定义路径相同的接口名)
    TicketService ticketService;

    public void buyTicket(){
        String ticket = ticketService.getTicket();
        System.out.println("在注册中心拿到=》"+ ticket);
    }
}

5. 测试类编写

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

package com.zhuuu;

import com.zhuuu.service.UserService;
import org.junit.jupiter.api.Test;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;

@SpringBootTest
class ConsumerServerApplicationTests {
    @Autowired
    UserService userService;

    @Test
    void contextLoads() {
        userService.buyTicket();
    }
}

5.3 启动测试

1. 开启zookeeper

2. 打开dubbo-admin实现监控【可以不用做】

3. 开启服务者

4.开启消费者