Python写的微服务如何融入Spring Cloud体系?
前言
在今天的文章中小码哥将会给大家分享一个目前工作中遇到的一个比较有趣的案例,就是如何将Python写的微服务融入到以Java技术栈为主的Spring Cloud微服务体系中?也许有朋友会有疑问,到底什么样的场景需要用Python写一个微服务,并且还要融入以Java技术栈为主的Spring Cloud微服务体系中呢?
大致情况是这样的,小码哥目前所在的公司后端技术栈基本上是以Java为主,并且整个后端软件系统采用的也是基于Spring Cloud框架为主的微服务架构(PS:在以往的文章中小码哥写了一些关于这方面的文章,大家可以在文末的推荐阅读中查看相关内容),服务的注册发现是基于Consul,而服务的调用及负载均衡也都是基于FeignClient调用以及Robbin客户端依赖来实现的,所以整体架构大概就是这样的一个标准Spring Cloud微服务架构。如图所示:
大部分场景下基于以上微服务架构是比较好扩展的,例如你有一个新的微服务,如果完全可以通过Java语言构建的话,那就是非常简单的一件事,因为你只需要基于Spring Boot编写一个微服务项目,然后通过Spring Cloud提供的注解将其快速地注入Consul的服务注册&发现机制,然后就可以很快地对内或对外提供服务了。
而在这里,小码哥遇到的是一个比较特殊的场景,因为最近小码哥一直在做一些出行行业相关的事情,所以需要做一些路径规划和计算的工作。这里就有一个比较棘手的需求:“需要对车辆的调度做一些路径规划,简单的来说就是地图上有很多个坐标点的位置,需要给有限的运营车辆做路径规划,尽量以一个距离最短的最佳路线去遍历完这些位置,从而节省运营资源提高运营效率”。
关于这个问题,实际上是涉及到计算机科学中比较经典的一个TSP(旅行商)算法问题,如果大家对这个算法有了解的话,就会理解这个问题需要非常大的计算量,因为每多几个位置,其算法的复杂度就会呈指数增长。而要解决这个问题,如果自行编写解决方案的话需要耗费很大的精力并且还需要不断的优化算法!
所以这个时候小码哥就想是不是有一些相对比较可靠的开源工具可以利用呢?所以经过一些研究和调研,果然发现有一个Google开源的运筹计算工具OR-TOOLS,其中提供了关于TSP及VRP问题的解法,关于这个工具解决TSP及VRP问题的方法与TSP问题一样,小码哥会在后面找机会给大家分享。
因为计算量非常大所以在使用OR-TOOLS工具时,我们需要在本地安装OR-TOOLS软件,而在具体编写计算代码时因其对Java的支持体验比较差(缺乏官方发布的Maven依赖,以及示例代码不全等),所以最终我们需要使用Python语言来进行开发,并且每一次的路径规划计算,都需要以服务的方式对上层应用进行开放。
说到这里,各位应该已经理解了小码哥的纠结的问题了,因为Python服务相对于Spring Cloud这一套体系来说,算是一个异构服务了,其本身并不像Java那样可以很方便的利用Spring Boot、Spring Cloud提供的一套成熟的体系。而如果选择不融入Spring Cloud体系,那意味着对于Python服务,我们需要做单独的部署及负载设计。例如,我们可能需要单独部署几个Python节点,然后通过Nginx单独配置负载均衡,内部微服务调用也需要每次都绕到Nginx那一层才可以以负载的方式访问。如下图所示:
实际上这种方式就是回到了早期传统服务架构时代的负载均衡模式配置方式上去了,虽然也没有太大的问题,只是为这样个别的异构服务单独设置一套部署体系,从成本及扩展性上来说的确有些别扭!所以,如果我们可以直接将Python写的异构服务也能通过注册到Consul的话,这样也就融入了标准的Spring Cloud微服务体系,问题就简单多了!
构建Python web服务
接下来我们就以具体代码的方式先一起来看看怎么样编写一个Python web服务,并看看怎么样才可以将其注册到Consul中,并与其他微服务实现服务发现和调用!在基于Python编写Web服务时,为了简化开发可以选择一个比较成熟的PythonWeb框架,这里小码哥用的是Tornado,Python中其他Web框架还有Flask、Django等,因为Tornado性能相对比较高适合做后端接口服务,所以就选择了Tornado,这里就不再进一步说明了。
在具体进行代码开发时,我们需要安装好Python开发环境,这里小码哥使用的是Python3.7.3,而Tornado使用的则是5.1.1版本,具体的安装方式大家可以查一下,这里就不再多说!接下了,我们具体来看下在真实的项目工程中时怎么将Python注入Consul的!
因为Python不像Java那样基于Spring Cloud有一套完整的依赖包,可以很方便地使用一个注解就可以进行服务注册与发现,所以我们需要基于consulate这个Python库来单独编写服务注册代码,如下:
import json
from random import randint
from consulate import Consul
# consul 操作类
import requests class ConsulClient():
def __init__(self, host=None, port=None, token=None): # 初始化,指定consul主机,端口,和token
self.host = host # consul 主机
self.port = port # consul 端口
self.token = token
self.consul = Consul(host=host, port=port) def register(self, name, service_id, address, port, tags, interval, httpcheck): # 注册服务 注册服务的服务名 端口 以及 健康监测端口
self.consul.agent.service.register(name, service_id=service_id, address=address, port=port, tags=tags,
interval=interval, httpcheck=httpcheck) def deregister(self, service_id):
# 此处有坑,源代码用的get方法是不对的,改成put,两个方法都得改
self.consul.agent.service.deregister(service_id)
self.consul.agent.check.deregister(service_id) def getService(self, name): # 负载均衡获取服务实例
url = 'http://' + self.host + ':' + str(self.port) + '/v1/catalog/service/' + name # 获取 相应服务下的DataCenter
dataCenterResp = requests.get(url)
if dataCenterResp.status_code != 200:
raise Exception('can not connect to consul ')
listData = json.loads(dataCenterResp.text)
dcset = set() # DataCenter 集合 初始化
for service in listData:
dcset.add(service.get('Datacenter'))
serviceList = [] # 服务列表 初始化
for dc in dcset:
if self.token:
url = 'http://' + self.host + ':' + self.port + '/v1/health/service/' + name + '?dc=' + dc + '&token=' + self.token
else:
url = 'http://' + self.host + ':' + self.port + '/v1/health/service/' + name + '?dc=' + dc + '&token='
resp = requests.get(url)
if resp.status_code != 200:
raise Exception('can not connect to consul ')
text = resp.text
serviceListData = json.loads(text) for serv in serviceListData:
status = serv.get('Checks')[1].get('Status')
if status == 'passing': # 选取成功的节点
address = serv.get('Service').get('Address')
port = serv.get('Service').get('Port')
serviceList.append({'port': port, 'address': address})
if len(serviceList) == 0:
raise Exception('no serveice can be used')
else:
service = serviceList[randint(0, len(serviceList) - 1)] # 随机获取一个可用的服务实例
return service['address'], int(service['port']) def getServices(self):
return self.consul.agent.services()
有了以上这段服务注册代码的实现,我们再来看看入口代码中如何在启动服务时注入Consul,代码如下:
import os
import sys
from importlib import reload import tornado.web
from tornado.ioloop import IOLoop
from tornado.options import define, options, parse_command_line from apps.handlers.VehicleRoutingHandler import VehicleRoutingHandler
from apps.handlers.HealthChecker import HealthChecker
from utils.consul_client import ConsulClient reload(sys) def main():
# 读取项目配置
from conf.config import getConfig
conf = getConfig()
c = ConsulClient(conf.consul_address, conf.consul_port)
service_id = conf.application_name + ":" + conf.ip + ':' + str(conf.server_port)
# print(c.consul.agent.services()) name = conf.application_name
address = conf.ip
port = conf.server_port
tags = [conf.consul_tags]
interval = 5
httpcheck = conf.consul_healthCheckPath
c.register(name, service_id, address, port, tags, interval, httpcheck) parse_command_line()
app = tornado.web.Application(
[
(r"/routing/vehiclePathPlan?", VehicleRoutingHandler),
(r"/actuator/health", HealthChecker)
],
cookie_secret="__TODO:_GENERATE_YOUR_OWN_RANDOM_VALUE_HERE__",
template_path=os.path.join(os.path.dirname(__file__), "templates"),
static_path=os.path.join(os.path.dirname(__file__), "static"),
)
http_server = tornado.httpserver.HTTPServer(app)
http_server.listen(conf.server_port)
tornado.ioloop.IOLoop.current().start() if __name__ == "__main__":
main()
可以看到上述代码通过配置获取了consul的地址及端口信息,并自定义了服务节点的serviceId、tags以及进行健康性检查时,Consul探测的服务接口地址的定义:
/actuator/health
我们知道Consul与微服务之间需要通过健康性检查来做心跳,在Java中因为Spring Cloud依赖包已经替我们实现好了这样的接口,而在Python中就需要我们手工定义,如上述代码中我们就定义了/actuator/health服务,并实现了其处理代码,很简单就是返回成功,如下:
import tornado.web class HealthChecker(tornado.web.RequestHandler):
def get(self, *args, **kwargs):
self.write("ok")
这样在服务注册到Consul之后,Consul就可以通过这个接口来与Python微服务之间通过发送心跳来探活了。此时,如果我们在配置中制定Consul的地址,并启动Python微服务,就可以将其注入Consul了,如:
MacBook-Pro-2:routing guanliyuan$ python3 manage.py dev
['manage.py', 'dev']
dev
[I 190529 00:37:35 web:2162] 200 GET /actuator/health (127.0.0.1) 1.38ms
[I 190529 00:37:36 web:2162] 200 GET /actuator/health (127.0.0.1) 0.76ms
[I 190529 00:37:37 web:2162] 200 GET /actuator/health (127.0.0.1) 0.58ms
[I 190529 00:37:38 web:2162] 200 GET /actuator/health (127.0.0.1) 0.57ms
启动服务后,就可以看到Consul发过来的心跳请求了,此时如果我们打开Consul的web控制台,也能看到服务成功的被注册到Consul上了,如:
之后该Python服务就可以像其他Java编写的微服务一样即可以通过api-gateway直接被前端调用,也可以通过FeignClient以负载均衡的方式被其他微服务调用了!
Python 多环境配置
这里再多给大家分享一点,就是我们知道在Spring Cloud微服务中,我们可以通过spring.profile.active这个参数来指定不同环境的配置,从而实现多环境适配,而在Python中因为没有像Spring Boot这样的框架,所以我们只能自己来实现了,例如,下面的配置代码就是给Python微服务实现的一个多环境配置的代码,如下:
import os
import socket
import manage class Config(object): # 默认配置
DEBUG = False
hostname = socket.gethostname()
ip = socket.gethostbyname(hostname) application_name = "routing"
application_version = "1.0"
server_port = 9090 # get attribute
def __getitem__(self, key):
return self.__getattribute__(key) class DevelopmentConfig(Config): # 开发环境
consul_address = "127.0.0.1"
consul_port = "8500"
consul_healthCheckPath = "http://127.0.0.1:9090/actuator/health"
consul_tags = "dev" class ProductionConfig(Config): # 生产环境
consul_address = "127.0.0.1"
consul_port = "8500"
consul_healthCheckPath = "http://127.0.0.1:9090/actuator/health"
consul_tags = "prod" # 环境映射关系
mapping = {
'dev': DevelopmentConfig,
'pro': ProductionConfig,
'default': DevelopmentConfig
} # 根据脚本参数,来决定用那个环境配置
import sys def getConfig():
print(sys.argv)
num = len(sys.argv) - 1 # 参数个数
if num < 1 or num > 1:
exit("参数错误,必须传环境变量!比如: python xx.py dev|pro|default")
env = "dev" # sys.argv[1] # 环境
print(env)
APP_ENV = os.environ.get('APP_ENV', env).lower()
return mapping[APP_ENV]() # 实例化对应的环境
这样我们在启动python脚本时只需要传递对应的环境参数,也可以实现多环境的配置读取了,例如:
MacBook-Pro-2:routing guanliyuan$ python3 manage.py dev
['manage.py', 'dev']
dev
后记
以上就是关于Python微服务作为异构服务融入Spring Cloud体系的一些介绍了,在实际的场景中还会有诸如其他语言编写的微服务的场景,如Go!其基本思路类似,只是Java相对于其他语言来说,由于其完整的开源生态,会简单很多!
推荐阅读:
Spring Cloud微服务中网关服务是如何实现的?(Zuul篇)
Python写的微服务如何融入Spring Cloud体系?的更多相关文章
- Spring Cloud与微服务构建:Spring Cloud简介
Spring Cloud简介 微服务因该具备的功能 微服务可以拆分为"微"和"服务"二字."微"即小的意思,那到底多小才算"微&q ...
- 微服务架构集大成者—Spring Cloud (转载)
软件是有生命的,你做出来的架构决定了这个软件它这一生是坎坷还是幸福. 本文不是讲解如何使用Spring Cloud的教程,而是探讨Spring Cloud是什么,以及它诞生的背景和意义. 1 背景 2 ...
- 【微服务】使用spring cloud搭建微服务框架,整理学习资料
写在前面 使用spring cloud搭建微服务框架,是我最近最主要的工作之一,一开始我使用bubbo加zookeeper制作了一个基于dubbo的微服务框架,然后被架构师否了,架构师曰:此物过时.随 ...
- 微服务架构-选择Spring Cloud,放弃Dubbo
Spring Cloud 在国内中小型公司能用起来吗?从 2016 年初一直到现在,我们在这条路上已经走了一年多. 在使用 Spring Cloud 之前,我们对微服务实践是没有太多的体会和经验的.从 ...
- 微服务SpringCloud之Spring Cloud Config配置中心服务化
在前面两篇Spring Cloud Config配置中心的博客中都是需要指定配置服务的地址url:spring.cloud.config.uri,客户端都是直接调用配置中心的server端来获取配置文 ...
- 微服务架构之spring cloud zipkin
Spring Cloud Zipkin是微服务的链路跟踪组件,帮助详细了解一次request&response的总计时,及每个微服务的消耗时间.微服务名称.异常信息等等过程信息. (一) 版本 ...
- 微服务架构之spring cloud turbine
在前面介绍了spring cloud hystrix及其hystrix dashboard,但都是对单个项目的监控,对于一个为项目而言,必定有很多微服务,一个一个去看非常的不方便,如果有一个能集中熔断 ...
- 微服务架构之spring cloud gateway
Spring Cloud Gateway是spring cloud中起着非常重要的作用,是终端调用服务的入口,同时也是项目中每个服务对外暴露的统一口径,我们可以在网关中实现路径映射.权限验证.负载均衡 ...
- 微服务架构之spring cloud hystrix&hystrix dashboard
在前面介绍spring cloud feign中我们已经使用过hystrix,只是没有介绍,spring cloud hystrix在spring cloud中起到保护微服务的作用,不会让发生的异常无 ...
随机推荐
- nodejs 简单的模拟代理服务器
https://nodejs.org/api/net.html#net_net_createconnection 代理前:client -> server 代理后:client -> pr ...
- .NET探索模型路由约定实现伪静态
概述 IPageRouteModelConvention接口用于自定义PageRouteModel,这个对象在Microsoft.AspNetCore.Mvc.ApplicationModels命名空 ...
- Linux进程管理工具Supervisor的安装配置
目录 Linux进程管理工具Supervisor的安装配置 简介 安装Python包管理工具 安装Supervisor 配置 配置文件参数说明 配置进程管理 启动supervisor 控制进程 交互终 ...
- 从Java的堆栈到Equals和==的比较
以下为链接 https://www.2cto.com/kf/201503/383832.html 栈与堆都是Java用来在Ram中存放数据的地方.与C++不同,Java自动管理栈和堆,程序员不能直接地 ...
- Django 自定义标签与过滤器报错 No module named 'templatetags'
Django 自定义标签与过滤器报错 按照网上的教程如果想使用自定义的标签与过滤器就得往settings.py中添加下列数据 TEMPLATES = [ { 'BACKEND': 'django.te ...
- 001-深度学习Pytorch环境搭建(Anaconda , PyCharm导入)
001-深度学习Pytorch环境搭建(Anaconda , PyCharm导入) 在开始搭建之前我们先说一下本次主要安装的东西有哪些. anaconda 3:第三方包管理软件. 这个玩意可以看作是一 ...
- Linux安全模型中的3A
3A Authentication : 认证 验证用户身份 Authorization : 授权 不同用户设置不同权限 Accouting | Audition : 审计 Linux 验证用户身份 U ...
- STM32 ADC详细篇(基于HAL库)
一.基础认识 ADC就是模数转换,即将模拟量转换为数字量 l 分辨率,读出的数据的长度,如8位就是最大值为255的意思,即范围[0,255],12位就是最大值为4096,即范围[0,4096] l ...
- Kilo 使用教程
写了这么多篇 WireGuard 相关的保姆教程,今天终于牵扯到 Kubernetes 了,不然怎么对得起"云原生"这三个字.如果看到这篇文章的你仍然是个 WireGuard 新手 ...
- Apache配置 10. 访问控制-禁止解析PHP
(1)简述 对于使用PHP语言编写的网站,有一些目录是有需求上传文件的.如果网站代码有漏洞,让黑客上传了一个用PHP写的木马,由于网站可以执行PHP程序,最终会让黑客拿到服务器权限. 为了避免这种情况 ...