一、分布式基础理论

1、什么是分布式系统?

《分布式系统原理与范型》定义:

“分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统”

分布式系统(distributed system)是建立在网络之上的软件系统。

随着互联网的发展,网站应用的规模不断扩大,常规的垂直应用架构已无法应对,分布式服务架构以及流动计算架构势在必行,亟需一个治理系统确保架构有条不紊的演进。

2、发展演变

单一应用架构

当网站流量很小时,只需一个应用,将所有功能都部署在一起,以减少部署节点和成本。此时,用于简化增删改查工作量的数据访问框架(ORM)是关键。

适用于小型网站,小型管理系统,将所有功能都部署到一个功能里,简单易用。

缺点:1、性能扩展比较难,比喻新增功能,修改功能,每台机子都要重新部署

2、协同开发问题,很多人都在同一个功能模块里面做,容易乱

3、不利于升级维护,功能增加超量,项目大小增加,单台机子就承受不住

垂直应用架构

当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。界面和业务逻辑是在一起。

通过切分业务来实现各个模块独立部署,降低了维护和部署的难度,团队各司其职更易管理,性能扩展也更方便,更有针对性。

缺点: 公用模块无法重复利用,开发性的浪费

分布式服务架构

当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的分布式服务框架(RPC)是关键。

流动计算架构

当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于提高机器利用率的资源调度和治理中心(SOA)[ Service Oriented Architecture]是关键

3、RPC

 什么叫RPC

RPC【Remote Procedure Call】是指远程过程调用,是一种进程间通信方式,他是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。

  RPC基本原理

RPC两个核心模块:通讯,序列化。

一次完整的RPC调用流程(同步调用,异步另说)如下:

 1)服务消费方(client)调用以本地调用方式调用服务;

2)client stub接收到调用后负责将方法、参数等组装成能够进行网络传输的消息体;

3)client stub找到服务地址,并将消息发送到服务端;

4)server stub收到消息后进行解码;

5)server stub根据解码结果调用本地的服务;

6)本地服务执行并将结果返回给server stub;

7)server stub将返回结果打包成消息并发送至消费方;

8)client stub接收到消息,并进行解码;

 9)服务消费方得到最终结果。

RPC框架的目标就是要2~8这些步骤都封装起来,这些细节对用户来说是透明的,不可见的。

二、dubbo核心概念

1、简介

Apache Dubbo (incubating) |ˈdʌbəʊ| 是一款高性能、轻量级的开源Java RPC框架,它提供了三大核心能力:面向接口的远程方法调用,智能容错和负载均衡,以及服务自动注册和发现。

官网:http://dubbo.apache.org/

2、基本概念

服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。

服务消费者(Consumer): 调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。

注册中心(Registry):注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者

监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心

容器(Container):服务运行容器

调用关系说明

  1. 服务容器负责启动,加载,运行服务提供者。
  2. 服务提供者在启动时,向注册中心注册自己提供的服务。
  3. 服务消费者在启动时,向注册中心订阅自己所需的服务。
  4. 注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。
  5. 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
  6. 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。

Dubbo 架构具有以下几个特点,分别是连通性、健壮性、伸缩性、以及向未来架构的升级性。

3、dubbo环境搭建

【windows】-安装zookeeper

1、下载zookeeper

网址 https://archive.apache.org/dist/zookeeper/zookeeper-3.4.13/

2、解压zookeeper

解压运行zkServer.cmd ,初次运行会报错,没有zoo.cfg配置文件

3、修改zoo.cfg配置文件

将conf下的zoo_sample.cfg复制一份改名为zoo.cfg即可。

注意几个重要位置:

dataDir=./   临时数据存储的目录(可写相对路径)

clientPort=2181   zookeeper的端口号

修改完成后再次启动zookeeper

4、使用zkCli.cmd测试

ls /:列出zookeeper根下保存的所有节点

create –e /chen 123:创建一个临时chen节点,值为123

get /chen:获取/chen节点的值

5、流程说明:

服务提供者启动时: 向 /dubbo/com.foo.BarService/providers 目录下写入自己的 URL 地址

服务消费者启动时: 订阅 /dubbo/com.foo.BarService/providers 目录下的提供者 URL 地址。并向 /dubbo/com.foo.BarService/consumers 目录下写入自己的 URL 地址

监控中心启动时: 订阅 /dubbo/com.foo.BarService 目录下的所有提供者和消费者 URL 地址。

6、支持以下功能:

当提供者出现断电等异常停机时,注册中心能自动删除提供者信息

当注册中心重启时,能自动恢复注册数据,以及订阅请求

当会话过期时,能自动恢复注册数据,以及订阅请求

当设置 <dubbo:registry check="false" /> 时,记录失败注册和订阅请求,后台定时重试

可通过 <dubbo:registry username="admin" password="1234" /> 设置 zookeeper 登录信息

可通过 <dubbo:registry group="dubbo" /> 设置 zookeeper 的根节点,不设置将使用无根树

支持 * 号通配符 <dubbo:reference group="*" version="*" />,可订阅服务的所有分组和所有版本的提供者

【windows】-安装dubbo-admin管理控制台

dubbo本身并不是一个服务软件。它其实就是一个jar包能够帮你的java程序连接到zookeeper,并利用zookeeper消费、提供服务。所以你不用在Linux上启动什么dubbo服务。

但是为了让用户更好的管理监控众多的dubbo服务,官方提供了一个可视化的监控程序,不过这个监控即使不装也不影响使用。

1、下载dubbo-admin

https://github.com/apache/incubator-dubbo-ops

2、进入目录,修改dubbo-admin配置

修改 src\main\resources\application.properties 指定zookeeper地址

3、打包dubbo-admin

mvn clean package -Dmaven.test.skip=true

4、运行dubbo-admin

java -jar dubbo-admin-0.0.1-SNAPSHOT.jar

默认使用root/root 登陆

4、dubbo-helloworld

提出需求

某个电商系统,订单服务需要调用用户服务获取某个用户的所有地址;

我们现在 需要创建两个服务模块进行测试

模块

功能

订单服务web模块

创建订单等

用户服务service模块

查询用户地址等

 
 
 
 
 
 
 

测试预期结果:

订单服务web模块在A服务器,用户服务模块在B服务器,A可以远程调用B的功能。

工程架构

根据 dubbo《服务化最佳实践》

1、分包

建议将服务接口,服务模型,服务异常等均放在 API 包中,因为服务模型及异常也是 API 的一部分,同时,这样做也符合分包原则:重用发布等价原则(REP),共同重用原则(CRP)。

如果需要,也可以考虑在 API 包中放置一份 spring 的引用配置,这样使用方,只需在 spring 加载过程中引用此配置即可,配置建议放在模块的包目录下,以免冲突,如:com/alibaba/china/xxx/dubbo-reference.xml。

2、粒度

服务接口尽可能大粒度,每个服务方法应代表一个功能,而不是某功能的一个步骤,否则将面临分布式事务问题,Dubbo 暂未提供分布式事务支持。

服务接口建议以业务场景为单位划分,并对相近业务做抽象,防止接口数量爆炸。

不建议使用过于抽象的通用接口,如:Map query(Map),这样的接口没有明确语义,会给后期维护带来不便。

创建模块

1gmall-interface公共接口层(model,service,exception

作用:定义公共接口,也可以导入公共依赖

Bean模型

public class UserAddress implements Serializable{
    private Integer id;
    private String userAddress;
    private String userId;
    private String consignee;
    private String phoneNum;
    private String isDefault;

}

Service接口

UserService、OrderService

 2.boot-user-service-provider用户模块(对用户接口的实现)

作用:作为提供者,提供接口的实现

pom.xml

  1. <dependency>
  2. <groupId>org.springframework.boot</groupId>
  3. <artifactId>spring-boot-starter</artifactId>
  4. </dependency>
  5. <dependency>
  6. <groupId>com.gmall</groupId>
  7. <artifactId>gmall-interface</artifactId>
  8. <version>0.0.1-SNAPSHOT</version>
  9. </dependency>
  10. <dependency>
  11. <groupId>com.alibaba.boot</groupId>
  12. <artifactId>dubbo-spring-boot-starter</artifactId>
  13. <version>0.2.0</version>
  14. </dependency>

Impl实现类

  1. //@Service//使用dubbo提供的Service暴露服务
  2. @Component
  3. public class UserServiceImpl implements UserService {
  4. @HystrixCommand
  5. @Override
  6. public List<UserAddress> getUserAddressList(String userId) {
  7. System.out.println("UserServiceImpl.......");
  8. UserAddress address1 = new UserAddress(1, "深圳市创业投资大厦", "1", "小明", "010-00000000", "Y");
  9. UserAddress address2 = new UserAddress(2, "深圳市怡化金融大厦", "2", "小李", "010-11111111", "N");
  10. System.out.println(address1);
  11. return Arrays.asList(address1,address2);
  12. }
  13. }

provider.xml

  1. <!-- 1、指定当前服务/应用的名字(同样的服务名字相同,不要和别的服务同名) -->
  2. <dubbo:application name="boot-user-service-provider"></dubbo:application>
  3.  
  4. <!-- 2、指定注册中心的位置 -->
  5. <!-- <dubbo:registry address="zookeeper://127.0.0.1:2181"></dubbo:registry> -->
  6. <dubbo:registry protocol="zookeeper" address="127.0.0.1:2181"></dubbo:registry>
  7.  
  8. <!-- 3、指定通信规则(通信协议?通信端口) -->
  9. <dubbo:protocol name="dubbo" port="20880"></dubbo:protocol>
  10.  
  11. <!-- 4、暴露服务 ref:指向服务的真正的实现对象 -->
  12. <dubbo:service interface="com.gmall.service.UserService"
  13. ref="userServiceImpl" retries="2" timeout="1000">
  14. <dubbo:method name="getUserAddressList" timeout="1000"></dubbo:method>
  15. </dubbo:service>
  16.  
  17. <!--服务的实现 -->
  18. <bean id="userServiceImpl" class="com.gmall.service.impl.UserServiceImpl"></bean>
  19.  
  20. <!-- 开启dubbo注解支持 -->
  21. <!-- 扫描注解包路径,多个包用逗号分隔,不填pacakge表示扫描当前ApplicationContext中所有的类 -->
  22. <!--<dubbo:annotation package="com.gmall.service.impl"/>-->
  23.  
  24. <!--统一设置服务提供方的规则 -->
  25. <dubbo:provider timeout="1000" retries="3"></dubbo:provider>
  26.  
  27. <!-- 连接监控中心 -->
  28. <dubbo:monitor protocol="registry"></dubbo:monitor>

application.properties

  1. #dubbo.application.name=user-service-provider
  2. #dubbo.registry.address=127.0.0.1:2181
  3. #dubbo.registry.protocol=zookeeper
  4. #
  5. #dubbo.protocol.name=dubbo
  6. #dubbo.protocol.port=20881
  7. #
  8. #dubbo.monitor.protocol=registry
  9. #dubbo.scan.base-packages=com.gmall

Application启动类

  1. /**
  2. * 1、导入依赖;
  3. * 1)、导入dubbo-starter
  4. * 2)、导入dubbo的其他依赖
  5. * @author chenhao
  6. *
  7. * SpringBoot与dubbo整合的两种方式:
  8. * 1)、保留dubbo xml配置文件;
  9. * 导入dubbo-starter,使用@ImportResource导入dubbo的配置文件即可
  10. * 2)、导入dubbo-starter,在application.properties配置属性,使用@Service【暴露服务】使用@Reference【引用服务】
  11. */
  12. //@EnableDubbo //开启基于注解的dubbo功能
  13. //@ImportResource(locations="classpath:provider.xml")
  14. //@EnableDubbo
  15. @ImportResource(locations="classpath:provider.xml")
  16. @EnableHystrix //开启服务容错
  17. @SpringBootApplication
  18. public class BootUserServiceProviderApplication {
  19.  
  20. public static void main(String[] args) {
  21. SpringApplication.run(BootUserServiceProviderApplication.class, args);
  22. }
  23. }

①、可以用原始xml配置方式:如上provider.xml中配置,Application启动类中需要注解引入@ImportResource(locations="classpath:provider.xml");

使用注解方式:使用注解需要先开启dubbo注解,如provider.xml使用<dubbo:annotation package="com.gmall.service.impl"/>开启dubbo注解,但是这种方式dubbo官网说下个版本不再使用,或者在Application启动类中使用@EnableDubbo注解,使用注解后就不需要再provider.xml中配置暴露服务,只需要在需要暴露的服务类上添加注解@Service //使用dubbo提供的service注解注册暴露服务

②、也可以使用properties的方式:Application启动类中不需要引入provider.xml,但是要开启dubbo注解,并且需要在需要暴露的服务类上添加dubbo提供的service注解注册暴露服务

application.name就是服务名,不能跟别的dubbo提供端重复registry.protocol 是指定注册中心协议

registry.address 是注册中心的地址加端口号

protocol.name 是分布式固定是dubbo,不要改。

base-package  注解方式要扫描的包

3、boot-order-service-consumer订单模块(调用用户模块)

作用:作为消费者

pom.xml

  1. <dependency>
  2. <groupId>org.springframework.boot</groupId>
  3. <artifactId>spring-boot-starter-web</artifactId>
  4. </dependency>
  5.  
  6. <dependency>
  7. <groupId>com.alibaba.boot</groupId>
  8. <artifactId>dubbo-spring-boot-starter</artifactId>
  9. <version>0.2.0</version>
  10. </dependency>
  11.  
  12. <dependency>
  13. <groupId>com.gmall</groupId>
  14. <artifactId>gmall-interface</artifactId>
  15. <version>0.0.1-SNAPSHOT</version>
  16. </dependency>

Controller

  1. @Controller
  2. public class OrderController {
  3.  
  4. @Autowired
  5. OrderService orderService;
  6.  
  7. @ResponseBody
  8. @RequestMapping("/initOrder")
  9. public List<UserAddress> initOrder(@RequestParam("uid")String userId) {
  10. return orderService.initOrder(userId);
  11. }
  12.  
  13. }

Impl实现类

  1. //@Reference
  2. @Autowired
  3. UserService userService;
  4. //@HystrixCommand(fallbackMethod="hello")
  5. @Override
  6. public List<UserAddress> initOrder(String userId) {
  7. // TODO Auto-generated method stub
  8. System.out.println("用户id:"+userId);
  9. //1、查询用户的收货地址
  10. List<UserAddress> addressList = userService.getUserAddressList(userId);
  11. return addressList;
  12. }

consumer.xml

  1. <dubbo:application name="boot-order-service-consumer"></dubbo:application>
  2.  
  3. <dubbo:registry address="zookeeper://127.0.0.1:2181"></dubbo:registry>
  4.  
  5. <!--声明需要调用的远程服务的接口;生成远程服务代理 -->
  6. <!--
  7. 1)、精确优先 (方法级优先,接口级次之,全局配置再次之)
  8. 2)、消费者设置优先(如果级别一样,则消费方优先,提供方次之)
  9. -->
  10. <!-- timeout="0" 默认是1000ms-->
  11. <!-- retries="":重试次数,不包含第一次调用,0代表不重试-->
  12. <!-- 幂等(设置重试次数)【查询、删除、修改】、非幂等(不能设置重试次数)【新增】 -->
  13. <dubbo:reference interface="com.gmall.service.UserService"
  14. id="userService" timeout="5000" retries="3" >
  15. <dubbo:method name="getUserAddressList" timeout="1000"></dubbo:method>
  16. </dubbo:reference>
  17.  
  18. <!-- 配置当前消费者的统一规则:所有的服务都不检查 -->
  19. <dubbo:consumer check="false" timeout="5000"></dubbo:consumer>
  20.  
  21. <dubbo:monitor protocol="registry"></dubbo:monitor>
  22. <!-- <dubbo:monitor address="127.0.0.1:7070"></dubbo:monitor> -->

application.properties

  1. #server.port=8081
  2. #
  3. #dubbo.application.name=boot-order-service-consumer
  4. #dubbo.registry.address=zookeeper://127.0.0.1:2181
  5. #dubbo.monitor.protocol=registry

Application启动类

  1. //@EnableDubbo
  2. //@EnableHystrix
  3. @ImportResource(locations="classpath:consumer.xml")
  4. @SpringBootApplication
  5. public class BootOrderServiceConsumerApplication {
  6.  
  7. public static void main(String[] args) {
  8. SpringApplication.run(BootOrderServiceConsumerApplication.class, args);
  9. }
  10. }

①、可以用原始xml配置方式:如上consumer.xml中配置,Application启动类中需要注解引入@ImportResource(locations="classpath:consumer.xml");

使用注解方式:使用注解需要先开启dubbo注解,在Application启动类中使用@EnableDubbo注解,使用注解后就不需要再provider.xml中声明需要调用的远程服务的接口,只需要在需要引用的服务上UserService userService;添加注解@Reference  //使用dubbo提供的reference注解引用远程服务

②、也可以使用properties的方式:Application启动类中不需要引入consumer.xml,但是要开启dubbo注解,并且需要在需要引用的服务上UserService userService;添加注解@Reference  //使用dubbo提供的reference注解引用远程服务

5、监控中心

dubbo-admin

图形化的服务管理页面;安装时需要指定注册中心地址,即可从注册中心中获取到所有的提供者/消费者进行配置管理,上面已经安装

dubbo-monitor-simple

简单的监控中心

1、安装

下载 dubbo-ops

https://github.com/apache/incubator-dubbo-ops

修改配置指定注册中心地址

进入 dubbo-monitor-simple\src\main\resources\conf

修改 dubbo.properties文件

打包dubbo-monitor-simple

mvn clean package -Dmaven.test.skip=true

解压 tar.gz 文件,并运行start.bat

双击运行start.bat

启动访问8080

2、监控中心配置

所有服务配置连接监控中心,进行监控统计

<!-- 监控中心协议,如果为protocol="registry",表示从注册中心发现监控中心地址,否则直连监控中心 -->

<dubbo:monitor protocol="registry"></dubbo:monitor>

Simple Monitor 挂掉不会影响到 Consumer 和 Provider 之间的调用,所以用于生产环境不会有风险。

源码地址:https://gitee.com/chenhaozi/SpringBoot_dubbo.git

Dubbo(一) —— 基础知识和项目搭建的更多相关文章

  1. 从壹开始 [ Id4 ] 之二║ 基础知识集合 & 项目搭建一

    前言 哈喽大家又见面啦,感觉好久没更新了,这几天看了一本书<解忧杂货铺>,嗯挺好的,推荐一下

  2. Appium基础知识与环境搭建

    基础知识:  环境搭建: 1.安装jdk,配置java环境变量 (1)新建变量"JAVA_HOME",变量值"D:\Frameworks\Java\jdk1.8.0_18 ...

  3. vue3 自学(一)基础知识学习和搭建一个脚手架

    两年前曾自学过几天vue,那时候版本还是vue2,但后来项目中一直没用到,当时也觉得学习成本太高,便没有继续学习下去.初学者可以看下链接文章以前的吐槽~~ 学习 Vue ,从入门到放弃 最近部门决定升 ...

  4. Maven基础知识和环境搭建

    基本概念和生命周期 Maven是现在流行的构建自动化工具,提供了软件构建过程中全生命周期的管理. 基础目录结构 基础目录结构如下: 根目录:存放pom.xml 和所有的子目录 ${basedir}/s ...

  5. Spring MVC基础知识整理➣环境搭建和Hello World

    概述 Spring MVC属于SpringFrameWork的产品,采用Model-View-Controller进行数据交互,已经融合在Spring Web Flow里面.Spring 框架提供了构 ...

  6. 基于maven+dubbo+spring+zookeeper的简单项目搭建

    maven下搭建dubbo小demo,供初学者学习,有不正确地方还请见谅. 先推荐一篇创建maven项目的文章,个人认为比较完整详细清楚: http://www.cnblogs.com/leiOOle ...

  7. UVM系统验证基础知识0(Questasim搭建第一个UVM环境)

    版权声明:本文为Times_poem原创文章,转载请告知原博主.特别声明:本文在原文基础上做了简单修改以适应文中举例在questasim下的运行,敬请原博主谅解. 需求说明:UVM系统验证 内容   ...

  8. 分享spring、spring boot、spring cloud一些学习资源,从基础知识到项目实战

    1.spring注解驱动开发,学习spring boot和spring cloud必备知识 链接: https://pan.baidu.com/s/1xhULzLlpkERhoMi1G5Lgfg 密码 ...

  9. Spring基础知识1--环境搭建、bean创建、依赖注入、注解注入

    一.Spring两大核心内容 1.控制反转IOC/DI:  应用本身不负责对象的创建和维护,对象和依赖对象的创建完全交给容器管理. 2.AOP(面向切面编程):通过预编译的方式,在运行期通过动态代理的 ...

随机推荐

  1. Android Studio升级到3.4遇到的问题总结

    1.gradle需要升级. 1).project的build.gradle文件写下如下代码: buildscript { repositories { google() jcenter() } dep ...

  2. Py之Crawler:利用python的爬虫功能实现从各种网站上(以百度贴吧为例)获得你喜欢的照片下载到本地电脑上——Jason niu

    import urllib.requestimport re import os def open_url(url): req=urllib.request.Request(url) req.add_ ...

  3. 数组遍历for forEach for..in for..of

    最开始接触的遍历for 通过下标获取数组每一项的值 ,,]; ;i<num.length;i++) { console.log(num[i]) } /*打印2 5 7*/ forEach遍历数组 ...

  4. gzip解压文件报错

    #tar -xvf jdk-8u131-linux-x64.tar.gz,执行命令后报错如下: gzip: stdin: not in gzip format tar: Child returned ...

  5. 如何让Qt程序在运行时获取UAC权限

    在pro文件中加入以下语句: QMAKE_LFLAGS += /MANIFESTUAC:\"level=\'requireAdministrator\' uiAccess=\'false\' ...

  6. FTP连接超时

    今天程序在连接FTP服务器,突然无法连接,用Windows 的 Explorer能正常连接,但用 WebRequest.WebResponse连接时,总是抛出连接超时异常. 后查找相关资料,原因是:程 ...

  7. Vue知识点总结

    1.属性名已$开头的都是内部提供的属性 2.为什么使用事件修饰符的原因:methods 只有纯粹的数据逻辑,而不是去处理 DOM 事件细节 3.v-if 如果值为false,元素在页面中不存在:值为t ...

  8. Nginx如何进行配置优化?

    在日常工作的时候,搭建配置Nginx的时候,我们都会做相应的优化,那一般需要做的配置优化有哪些呢?可能有些小伙伴一听到要进行优化,内心难免有些慌. 今天咱们聊聊Nginx进行常规配置优化,这里需要注意 ...

  9. typeScript 学习

    最近看了下typescript, 虽然说已经有很多人已经用到它了,但是我还是写写自己的feel咯:这里推荐学习链接 https://ts.xcatliu.com. 这个入门学习,我不好做评价,但是我自 ...

  10. Springboot中关于跨域问题的一种解决方法

    前后端分离开发中,跨域问题是很常见的一种问题.本文主要是解决 springboot 项目跨域访问的一种方法,其他 javaweb 项目也可参考. 1.首先要了解什么是跨域 由于前后端分离开发中前端页面 ...