10 个 Istio 流量管理 最常用的例子，强烈建议收藏起来，以备不时之需。

为了方便理解，以Istio官方提供的Bookinfo应用示例为例，引出 Istio 流量管理的常用例子。

Bookinfo应用的架构图如下：

其中，包含四个单独的微服务：

  • productpage：调用 details 和 reviews 两个服务，用来生成页面。
  • details：包含了书籍的信息。
  • reviews：包含了书籍相关的评论。它还会调用 ratings 微服务。
  • rating：包含了由书籍评价组成的评级信息。

其中，reviews 服务有 3 个版本：

  • v1 版本不会调用 ratings 服务。
  • v2 版本会调用 ratings 服务，并使用 1 到 5 个黑色星形图标来显示评分信息。
  • v3 版本会调用 ratings 服务，并使用 1 到 5 个红色星形图标来显示评分信息。

流量转移

目标1：把reviews 服务的所有流量都路由到v1版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

  - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

目标2：把reviews 服务的50%流量转移到v3版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v1

      weight: 50

    - destination:

        host: reviews

        subset: v3

      weight: 50

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

目标3：把reviews 服务的所有流量都路由到v3版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

  - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v3

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

基于用户身份的路由

目标：来自名为 OneMore 的用户的所有流量都路由到v2版本，其他流量都路由到v1版本。

Istio 对用户身份没有任何特殊的内置机制。在应用示例中，productpage服务在所有到 reviews 服务的 HTTP 请求中都增加了一个自定义的 end-user 请求头，其值为用户名。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

  - match:

    - headers:

        end-user:

          exact: OneMore

    route:

    - destination:

        host: reviews

        subset: v2

  - route:

    - destination:

        host: reviews

        subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

注入 HTTP 延迟故障

目标：用户 OneMore 访问时， ratings 服务注入一个 2 秒的延迟，productpage页面在大约 2 秒钟加载完成并且没有错误。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: ratings

spec:

  hosts:

  - ratings

  http:

  - match:

    - headers:

        end-user:

          exact: OneMore

    fault:

      delay:

        percentage:

          value: 100.0

        fixedDelay: 2s

    route:

    - destination:

        host: ratings

        subset: v1

  - route:

    - destination:

        host: ratings

        subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: ratings

spec:

  host: ratings

  subsets:

    - labels:

        version: v1

      name: v1

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

注入 HTTP 中止故障

目标：用户 OneMore 访问时， ratings 服务注入一个503的中止故障，productpage 页面能够立即被加载，同时显示 “Ratings service is currently unavailable” 这样的消息。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: ratings

spec:

  hosts:

    - ratings

  http:

    - fault:

        abort:

          httpStatus: 503

          percentage:

            value: 100

      match:

        - headers:

            end-user:

              exact: OneMore

      route:

        - destination:

            host: ratings

            subset: v1

    - route:

        - destination:

            host: ratings

            subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: ratings

spec:

  host: ratings

  subsets:

    - labels:

        version: v1

      name: v1

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

设置请求超时

首先，用户 OneMore 访问时， ratings 服务注入一个 2 秒的延迟，productpage页面在大约 2 秒钟加载完成并且没有错误。

按照上文注入 HTTP 延迟故障进行操作，不再赘述。

目标：用户 OneMore 访问时， reviews 服务的请求超时设置为 1 秒，同时显示 “Sorry, product reviews are currently unavailable for this book.” 这样的消息。

kind: VirtualService

apiVersion: networking.istio.io/v1alpha3

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

    - match:

        - headers:

            end-user:

              exact: OneMore

      route:

        - destination:

            host: reviews

            subset: v2

      timeout: 1s

    - route:

        - destination:

            host: reviews

            subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

在Jaeger可以看到具体的调用链如下：

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

设置请求重试

首先，用户 OneMore 访问时， ratings 服务注入一个 2 秒的延迟，productpage页面在大约 2 秒钟加载完成并且没有错误。

按照上文注入 HTTP 延迟故障进行操作，不再赘述。

目标：用户 OneMore 访问时， reviews 服务的请求重试次数为2次，重试超时时间为 0.5 秒，同时显示 “Sorry, product reviews are currently unavailable for this book.” 这样的错误消息。

kind: VirtualService

apiVersion: networking.istio.io/v1alpha3

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

    - match:

        - headers:

            end-user:

              exact: OneMore

      route:

        - destination:

            host: reviews

            subset: v2

      retries:

        attempts: 2

        perTryTimeout: 0.5s

    - route:

        - destination:

            host: reviews

            subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

拒绝目标IP的请求

目标：除了IP为10.201.240.131的客户端可以访问/api/v1/products/1，其他客户端拒绝请求。

apiVersion: security.istio.io/v1beta1

kind: AuthorizationPolicy

metadata:

  name: deny-by-ip

spec:

  selector:

    matchLabels:

      app: productpage

  action: DENY

  rules:

  - to:

    - operation:

        paths: ["/api/v1/products/1"]

    when:

    - key: remote.ip

      notValues: ["10.201.240.131"]

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

熔断

目标：设置details服务的并发上限为1。

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: details

spec:

  host: details

  trafficPolicy:

    connectionPool:

      tcp:

        maxConnections: 1

      http:

        http1MaxPendingRequests: 1

        maxRequestsPerConnection: 1

可以使用 Fortio 进行负载测试，发送并发数为 2 的连接（-c 2），请求 20 次（-n 20）：

kubectl exec fortio-deploy-684b6b47f8-tzsg8 -c fortio -- /usr/bin/fortio load -c 3 -qps 0 -n 20 -loglevel Warning http://details:9080/details/0

其中，fortio-deploy-684b6b47f8-tzsg8是Fortio的Pod名称，效果如下：

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

流量镜像

目标：把流量全部路由到reviews服务的 v2 版本，再把流量全部镜像到 v3 版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

  - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v2

    mirror:

      host: reviews

      subset: v3

    mirrorPercentage:

      value: 100.0

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

执行如下命令查看reviews服务 v3 版本的 Envoy 访问日志：

kubectl logs -l app=reviews,version=v3 -c istio-proxy

可以看到reviews服务 v3 版本被调用的日志：

{

     "authority": "reviews-shadow:9080",

     "bytes_received": 0,

     "bytes_sent": 375,

     "connection_termination_details": null,

     "downstream_local_address": "10.1.1.64:9080",

     "downstream_remote_address": "10.1.1.59:0",

     "duration": 1914,

     "method": "GET",

     "path": "/reviews/0",

     "protocol": "HTTP/1.1",

     "request_id": "b79cefe6-1277-9c39-b398-f94a704840cc",

     "requested_server_name": "outbound_.9080_.v3_.reviews.default.svc.cluster.local",

     "response_code": 200,

     "response_code_details": "via_upstream",

     "response_flags": "-",

     "route_name": "default",

     "start_time": "2022-06-27T07:34:19.129Z",

     "upstream_cluster": "inbound|9080||",

     "upstream_host": "10.1.1.64:9080",

     "upstream_local_address": "127.0.0.6:59837",

     "upstream_service_time": "1913",

     "upstream_transport_failure_reason": null,

     "user_agent": "curl/7.79.1",

     "x_forwarded_for": "10.1.1.59"

}

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

Ingress的路由

目标：请求头app-id为details的所有流量都路由到details服务中。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: bookinfo

spec:

  hosts:

    - '*'

  gateways:

    - bookinfo-gateway

  http:

    - match:

        - uri:

            exact: /productpage

        - uri:

            prefix: /static

        - uri:

            exact: /login

        - uri:

            exact: /logout

        - uri:

            prefix: /api/v1/products

      route:

        - destination:

            host: productpage

            port:

              number: 9080

    - match:

        - headers:

            app-id:

              exact: details

      route:

        - destination:

            host: details

            port:

              number: 9080

使用curl命令验证一下：

curl -H "app-id: details" -v http://127.0.0.1/details/2

返回结果如下：

* Trying 127.0.0.1:80...

* Connected to 127.0.0.1 (127.0.0.1) port 80 (#0)

> GET /details/2 HTTP/1.1

> Host: 127.0.0.1

> User-Agent: curl/7.79.1

> Accept: */*

> app-id: details

>

* Mark bundle as not supporting multiuse

< HTTP/1.1 200 OK

< content-type: application/json

< server: istio-envoy

< date: Tue, 28 Jun 2022 07:14:40 GMT

< content-length: 178

< x-envoy-upstream-service-time: 4

<

{"id":2,"author":"William Shakespeare","year":1595,"type":"paperback","pages":200,"publisher":"PublisherA","language":"English","ISBN-10":"1234567890","ISBN-13":"123-1234567890"}

* Connection #0 to host 127.0.0.1 left intact

返回结果可以看出，访问的是details服务。

最后，感谢你这么帅，还给我点赞。

微信公众号：万猫学社

微信扫描二维码

关注后回复「电子书」

获取12本Java必读技术书籍

10个 Istio 流量管理 最常用的例子，你知道几个？的更多相关文章

  1. Istio流量管理实现机制深度解析

    https://zhaohuabing.com/post/2018-09-25-istio-traffic-management-impl-intro/TOC 前言 Pilot高层架构 统一的服务模型 ...

  2. [例1.10]使用setw设置输出宽度的例子

    [例1.10]使用setw设置输出宽度的例子: #include <iostream> #include <iomanip> using namespace std; void ...

  3. Istio流量管理能力介绍

    1      Istio是什么? Istio 1.0版本于8月1号凌晨准点发布,核心特性已支持上生产环境,各大微信公众号.博客纷纷发文转载.那么Istio到底是什么?能解决问题什么? 1. Istio ...

  4. istio流量管理

    目录 1 准备工作 1.1 在k8s部署istio 1.2 istio自动注入 1.3 应用部署要求 2 负载均衡 3 流量迁移:金丝雀发布 3.1 发布应用 3.2 创建目标规则:Destinati ...

  5. istio流量管理：非侵入式流量治理

    在服务治理中,流量管理是一个广泛的话题,一般情况下,常用的包括: 动态修改服务访问的负载均衡策略,比如根据某个请求特征做会话保持: 同一个服务有多版本管理,将一部分流量切到某个版本上: 对服务进行保护 ...

  6. 【JSON】Jackson初学，及常用的例子

    现在很多公司的项目都基于SOA架构,系统间的调用有许多方式,其中一种常见的是用HTTP协议.以JSON格式返回结果. 这使得JSON的使用更加普遍.而市面上处理JSON的框架五花八门,常见的有JSON ...

  7. [Istio]流量管理API v1alpha3路由规则

    Istio提供一个API进行流量管理,该API允许用户将请求路由到特定版本的服务,为弹性测试注入延迟和失败,添加断路器等,所有这些功能都不必更改应用程序本身的代码.Istio 1.0中引入新的流量管理 ...

  8. spark学习(10)-RDD的介绍和常用算子

    RDD(弹性分布式数据集,里面并不存储真正要计算的数据,你对RDD的操作,他会在Driver端转换成Task,下发到Executor计算分散在多台集群上的数据) RDD是一个代理,你对代理进行操作,他 ...

  9. 10 分钟上手 Vim，常用命令大盘点

    传闻有 180 万的程序员不知道如何退出 Vim 编辑器,真的有这么困难吗?下面给大家整理了一份 Vim 常用命令,让你 10 分钟快速上手 Vim,溜得飞起! 以下命令请在普通模式执行 1.移动光标 ...

  10. Istio流量管理实践之(3): 基于Istio实现流量对比分析

    流量镜像 流量镜像,也称为影子流量,流量镜像提供一种尽可能低的风险为生产带来变化的强大功能.镜像会将实时流量的副本发送到镜像服务.镜像流量发生在主服务的关键请求路径之外. 在非生产或者测试环境中,尝试 ...

随机推荐

  1. Nacos 服务发现

    更多内容,前往 IT-BLOG 一.Nacos 简介 Nacos 是阿里的一个开源产品,它是针对微服务架构中的服务发现.配置管理.服务治理的综合型解决方案.Nacos 使服务更容易注册,并通过 DNS ...

  2. Linux中Python自动输入sudo 密码【管道 sudo参数 stdin&stdout】

    一.背景和需求 背景: 由于docker服务进程都是以root帐号的身份运行的,所以用docker跑abpred出来的文件所有者都是root, 而我作为一般用户,操作这个文件不够权限,运行代码时需要s ...

  3. Python常见部分内置方法与操作

    Python常见内置方法与操作 整型int 类型转换 int(其它数据类型),但只支持数字类型和小数类型 >>> num1 = input('Your age>>> ...

  4. python实现往飞书群发图片及消息

    飞书提供了丰富的api来实现消息的通知,包括文本消息.图片消息.富文本消息,本次介绍使用飞书api发送富文本消息,以下是实现思路飞书API地址:https://open.feishu.cn/docum ...

  5. [GIT]辨析/区别: git reset HEAD 与 git reset --hard HEAD | 版本回撤

    1 场景1: 撤销到远程仓库或本地仓库的最新最近一次的正式版本 1.1 文由 时常有这样一种场景,不小心改动了部分文件,或修改了部分文件却发现无用,此时可能还没有git push,也可能push了:又 ...

  6. [Git]解决GIT冲突问题：git pull failed

    1 文由 花了很长时间一次性修改了项目的一大堆文件,准备最后git pull同步一下本地仓库代码,再一次性git commit,git push新代码的. but天不遂人愿,git pull时产生冲突 ...

  7. 理解String、StringBuilder和StringBuffer

    1. String.StringBuilder和StringBuffer异同 相同点:底层都是通过char数组实现的 不同点: String对象一旦创建,其值是不能修改的,如果要修改,会重新开辟内存空 ...

  8. 【Contest】Nowcoder 假日团队赛1 题解+赛后总结

    比赛链接 通过顺序:\(B\rightarrow D\rightarrow I\rightarrow J\rightarrow G\rightarrow H \rightarrow A \righta ...

  9. Terraform 系列-Terraform Cloud 比 Terraform OSS 有哪些增强？

    系列文章 Terraform 系列文章 前言 最近在使用 Terraform Cloud 来置备 OCI 的 Always Free Tier, 发现它非常好用,相比 Terraform OSS, 用 ...

  10. YOLO精讲------YOLOV1

    CV小白说YOLOV1 题外话: 目标检测是什么? 它是在图像中对一类或多类感兴趣的目标进行查找和分类,确定它们的类别和位置.由于各类物体有不同的外观.形状和姿态,加上成像时各种因素的干扰,目标检测一 ...