10 个 Istio 流量管理 最常用的例子，强烈建议收藏起来，以备不时之需。

为了方便理解，以Istio官方提供的Bookinfo应用示例为例，引出 Istio 流量管理的常用例子。

Bookinfo应用的架构图如下：

其中，包含四个单独的微服务：

  • productpage：调用 details 和 reviews 两个服务，用来生成页面。
  • details：包含了书籍的信息。
  • reviews：包含了书籍相关的评论。它还会调用 ratings 微服务。
  • rating：包含了由书籍评价组成的评级信息。

其中，reviews 服务有 3 个版本：

  • v1 版本不会调用 ratings 服务。
  • v2 版本会调用 ratings 服务，并使用 1 到 5 个黑色星形图标来显示评分信息。
  • v3 版本会调用 ratings 服务，并使用 1 到 5 个红色星形图标来显示评分信息。

流量转移

目标1：把reviews 服务的所有流量都路由到v1版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

  - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

目标2：把reviews 服务的50%流量转移到v3版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v1

      weight: 50

    - destination:

        host: reviews

        subset: v3

      weight: 50

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

目标3：把reviews 服务的所有流量都路由到v3版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

  - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v3

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

基于用户身份的路由

目标：来自名为 OneMore 的用户的所有流量都路由到v2版本，其他流量都路由到v1版本。

Istio 对用户身份没有任何特殊的内置机制。在应用示例中，productpage服务在所有到 reviews 服务的 HTTP 请求中都增加了一个自定义的 end-user 请求头，其值为用户名。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

  - match:

    - headers:

        end-user:

          exact: OneMore

    route:

    - destination:

        host: reviews

        subset: v2

  - route:

    - destination:

        host: reviews

        subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

注入 HTTP 延迟故障

目标：用户 OneMore 访问时， ratings 服务注入一个 2 秒的延迟，productpage页面在大约 2 秒钟加载完成并且没有错误。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: ratings

spec:

  hosts:

  - ratings

  http:

  - match:

    - headers:

        end-user:

          exact: OneMore

    fault:

      delay:

        percentage:

          value: 100.0

        fixedDelay: 2s

    route:

    - destination:

        host: ratings

        subset: v1

  - route:

    - destination:

        host: ratings

        subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: ratings

spec:

  host: ratings

  subsets:

    - labels:

        version: v1

      name: v1

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

注入 HTTP 中止故障

目标：用户 OneMore 访问时， ratings 服务注入一个503的中止故障，productpage 页面能够立即被加载，同时显示 “Ratings service is currently unavailable” 这样的消息。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: ratings

spec:

  hosts:

    - ratings

  http:

    - fault:

        abort:

          httpStatus: 503

          percentage:

            value: 100

      match:

        - headers:

            end-user:

              exact: OneMore

      route:

        - destination:

            host: ratings

            subset: v1

    - route:

        - destination:

            host: ratings

            subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: ratings

spec:

  host: ratings

  subsets:

    - labels:

        version: v1

      name: v1

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

设置请求超时

首先，用户 OneMore 访问时， ratings 服务注入一个 2 秒的延迟，productpage页面在大约 2 秒钟加载完成并且没有错误。

按照上文注入 HTTP 延迟故障进行操作，不再赘述。

目标：用户 OneMore 访问时， reviews 服务的请求超时设置为 1 秒，同时显示 “Sorry, product reviews are currently unavailable for this book.” 这样的消息。

kind: VirtualService

apiVersion: networking.istio.io/v1alpha3

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

    - match:

        - headers:

            end-user:

              exact: OneMore

      route:

        - destination:

            host: reviews

            subset: v2

      timeout: 1s

    - route:

        - destination:

            host: reviews

            subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

在Jaeger可以看到具体的调用链如下：

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

设置请求重试

首先，用户 OneMore 访问时， ratings 服务注入一个 2 秒的延迟，productpage页面在大约 2 秒钟加载完成并且没有错误。

按照上文注入 HTTP 延迟故障进行操作，不再赘述。

目标：用户 OneMore 访问时， reviews 服务的请求重试次数为2次，重试超时时间为 0.5 秒，同时显示 “Sorry, product reviews are currently unavailable for this book.” 这样的错误消息。

kind: VirtualService

apiVersion: networking.istio.io/v1alpha3

metadata:

  name: reviews

spec:

  hosts:

    - reviews

  http:

    - match:

        - headers:

            end-user:

              exact: OneMore

      route:

        - destination:

            host: reviews

            subset: v2

      retries:

        attempts: 2

        perTryTimeout: 0.5s

    - route:

        - destination:

            host: reviews

            subset: v1

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

拒绝目标IP的请求

目标：除了IP为10.201.240.131的客户端可以访问/api/v1/products/1，其他客户端拒绝请求。

apiVersion: security.istio.io/v1beta1

kind: AuthorizationPolicy

metadata:

  name: deny-by-ip

spec:

  selector:

    matchLabels:

      app: productpage

  action: DENY

  rules:

  - to:

    - operation:

        paths: ["/api/v1/products/1"]

    when:

    - key: remote.ip

      notValues: ["10.201.240.131"]

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

熔断

目标：设置details服务的并发上限为1。

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: details

spec:

  host: details

  trafficPolicy:

    connectionPool:

      tcp:

        maxConnections: 1

      http:

        http1MaxPendingRequests: 1

        maxRequestsPerConnection: 1

可以使用 Fortio 进行负载测试，发送并发数为 2 的连接（-c 2），请求 20 次（-n 20）：

kubectl exec fortio-deploy-684b6b47f8-tzsg8 -c fortio -- /usr/bin/fortio load -c 3 -qps 0 -n 20 -loglevel Warning http://details:9080/details/0

其中，fortio-deploy-684b6b47f8-tzsg8是Fortio的Pod名称，效果如下：

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

流量镜像

目标：把流量全部路由到reviews服务的 v2 版本，再把流量全部镜像到 v3 版本。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: reviews

spec:

  hosts:

  - reviews

  http:

  - route:

    - destination:

        host: reviews

        subset: v2

    mirror:

      host: reviews

      subset: v3

    mirrorPercentage:

      value: 100.0

---

apiVersion: networking.istio.io/v1alpha3

kind: DestinationRule

metadata:

  name: reviews

spec:

  host: reviews

  subsets:

    - labels:

        version: v1

      name: v1

    - labels:

        version: v2

      name: v2

    - labels:

        version: v3

      name: v3

执行如下命令查看reviews服务 v3 版本的 Envoy 访问日志：

kubectl logs -l app=reviews,version=v3 -c istio-proxy

可以看到reviews服务 v3 版本被调用的日志：

{

     "authority": "reviews-shadow:9080",

     "bytes_received": 0,

     "bytes_sent": 375,

     "connection_termination_details": null,

     "downstream_local_address": "10.1.1.64:9080",

     "downstream_remote_address": "10.1.1.59:0",

     "duration": 1914,

     "method": "GET",

     "path": "/reviews/0",

     "protocol": "HTTP/1.1",

     "request_id": "b79cefe6-1277-9c39-b398-f94a704840cc",

     "requested_server_name": "outbound_.9080_.v3_.reviews.default.svc.cluster.local",

     "response_code": 200,

     "response_code_details": "via_upstream",

     "response_flags": "-",

     "route_name": "default",

     "start_time": "2022-06-27T07:34:19.129Z",

     "upstream_cluster": "inbound|9080||",

     "upstream_host": "10.1.1.64:9080",

     "upstream_local_address": "127.0.0.6:59837",

     "upstream_service_time": "1913",

     "upstream_transport_failure_reason": null,

     "user_agent": "curl/7.79.1",

     "x_forwarded_for": "10.1.1.59"

}

文章持续更新，微信搜索「万猫学社」第一时间阅读，关注后回复「电子书」，免费获取12本Java必读技术书籍。

Ingress的路由

目标：请求头app-id为details的所有流量都路由到details服务中。

apiVersion: networking.istio.io/v1alpha3

kind: VirtualService

metadata:

  name: bookinfo

spec:

  hosts:

    - '*'

  gateways:

    - bookinfo-gateway

  http:

    - match:

        - uri:

            exact: /productpage

        - uri:

            prefix: /static

        - uri:

            exact: /login

        - uri:

            exact: /logout

        - uri:

            prefix: /api/v1/products

      route:

        - destination:

            host: productpage

            port:

              number: 9080

    - match:

        - headers:

            app-id:

              exact: details

      route:

        - destination:

            host: details

            port:

              number: 9080

使用curl命令验证一下：

curl -H "app-id: details" -v http://127.0.0.1/details/2

返回结果如下：

* Trying 127.0.0.1:80...

* Connected to 127.0.0.1 (127.0.0.1) port 80 (#0)

> GET /details/2 HTTP/1.1

> Host: 127.0.0.1

> User-Agent: curl/7.79.1

> Accept: */*

> app-id: details

>

* Mark bundle as not supporting multiuse

< HTTP/1.1 200 OK

< content-type: application/json

< server: istio-envoy

< date: Tue, 28 Jun 2022 07:14:40 GMT

< content-length: 178

< x-envoy-upstream-service-time: 4

<

{"id":2,"author":"William Shakespeare","year":1595,"type":"paperback","pages":200,"publisher":"PublisherA","language":"English","ISBN-10":"1234567890","ISBN-13":"123-1234567890"}

* Connection #0 to host 127.0.0.1 left intact

返回结果可以看出，访问的是details服务。

最后，感谢你这么帅，还给我点赞。

微信公众号：万猫学社

微信扫描二维码

关注后回复「电子书」

获取12本Java必读技术书籍

10个 Istio 流量管理 最常用的例子，你知道几个？的更多相关文章

  1. Istio流量管理实现机制深度解析

    https://zhaohuabing.com/post/2018-09-25-istio-traffic-management-impl-intro/TOC 前言 Pilot高层架构 统一的服务模型 ...

  2. [例1.10]使用setw设置输出宽度的例子

    [例1.10]使用setw设置输出宽度的例子: #include <iostream> #include <iomanip> using namespace std; void ...

  3. Istio流量管理能力介绍

    1      Istio是什么? Istio 1.0版本于8月1号凌晨准点发布,核心特性已支持上生产环境,各大微信公众号.博客纷纷发文转载.那么Istio到底是什么?能解决问题什么? 1. Istio ...

  4. istio流量管理

    目录 1 准备工作 1.1 在k8s部署istio 1.2 istio自动注入 1.3 应用部署要求 2 负载均衡 3 流量迁移:金丝雀发布 3.1 发布应用 3.2 创建目标规则:Destinati ...

  5. istio流量管理：非侵入式流量治理

    在服务治理中,流量管理是一个广泛的话题,一般情况下,常用的包括: 动态修改服务访问的负载均衡策略,比如根据某个请求特征做会话保持: 同一个服务有多版本管理,将一部分流量切到某个版本上: 对服务进行保护 ...

  6. 【JSON】Jackson初学，及常用的例子

    现在很多公司的项目都基于SOA架构,系统间的调用有许多方式,其中一种常见的是用HTTP协议.以JSON格式返回结果. 这使得JSON的使用更加普遍.而市面上处理JSON的框架五花八门,常见的有JSON ...

  7. [Istio]流量管理API v1alpha3路由规则

    Istio提供一个API进行流量管理,该API允许用户将请求路由到特定版本的服务,为弹性测试注入延迟和失败,添加断路器等,所有这些功能都不必更改应用程序本身的代码.Istio 1.0中引入新的流量管理 ...

  8. spark学习(10)-RDD的介绍和常用算子

    RDD(弹性分布式数据集,里面并不存储真正要计算的数据,你对RDD的操作,他会在Driver端转换成Task,下发到Executor计算分散在多台集群上的数据) RDD是一个代理,你对代理进行操作,他 ...

  9. 10 分钟上手 Vim，常用命令大盘点

    传闻有 180 万的程序员不知道如何退出 Vim 编辑器,真的有这么困难吗?下面给大家整理了一份 Vim 常用命令,让你 10 分钟快速上手 Vim,溜得飞起! 以下命令请在普通模式执行 1.移动光标 ...

  10. Istio流量管理实践之(3): 基于Istio实现流量对比分析

    流量镜像 流量镜像,也称为影子流量,流量镜像提供一种尽可能低的风险为生产带来变化的强大功能.镜像会将实时流量的副本发送到镜像服务.镜像流量发生在主服务的关键请求路径之外. 在非生产或者测试环境中,尝试 ...

随机推荐

  1. 有了HTTP，为啥还要用RPC

    既然有 HTTP 请求,为什么还要用 RPC 调用? 一直以来都没有深究过RPC和HTTP的区别,不都是写一个服务然后在客户端调用么? HTTP和RPC最本质的区别,就是 RPC 主要是基于 TCP/ ...

  2. vue中的v-model 与 .sync

    <input v-model="parentData"> //等同于 <input :value="parentData" @input=&q ...

  3. 搭建react的架手架

    1.回顾 cnpm i @vue/cli -g ----- 4的脚手架 ------ webpack 4 cnpm i @vue/cli@3 -g ----- 3的脚手架 ------ webpack ...

  4. c++实战开发程序

    非常感谢您的进一步提问,以下是一个对于实战开发小程序的更具体的建议: 第1周实战开发小程序建议:写一个简单的计算器程序,要求包含加.减.乘.除四种基本运算,并进行错误处理,例如输入了非法字符或者除数为 ...

  5. flask+gunicorn+nginx部署pytorch/python应用

    1. 基于flask实现python服务Flask是一个使用 Python 编写的轻量级 Web 应用框架.其 WSGI 工具箱采用 Werkzeug ,模板引擎则使用 Jinja2 .Flask使用 ...

  6. [数据库]mysql/mysqldump命令帮助说明

    1 mysql [root@test ~]# mysql --help mysql Ver 14.14 Distrib 5.7.24-27, for Linux (x86_64) using 6.0 ...

  7. 11.spring security 认证和授权简单流程了解

    1.总结:昨天主要是对WebSecurityConfigurerAdaptor的三个函数的区分以及了解了spring security的认证和授权流程:再就是动手使用了下thymeleaf和freeM ...

  8. 三天吃透Redis八股文

    Redis连环40问,绝对够全! Redis是什么? Redis(Remote Dictionary Server)是一个使用 C 语言编写的,高性能非关系型的键值对数据库.与传统数据库不同的是,Re ...

  9. DG：switchover切换操作

    问题描述:我们配置DG的目的就是为了在主库出现故障时,备库能够提供服务,保证业务的正常运行,switchover是用户有计划的进行停机切换,能够保证不丢失数据,我记录一下我进行switchover中的 ...

  10. CI框架调用第三方类库

    public function index() { //调用第三方类库 /* * 注意事项: * library 里面调用的名字首字母必须是 大写 * 使用它的方法时 使用小写 */ $this-&g ...