网关微服务配置模板经验分享

 2022-11-01 14:37:38







网关微服务配置模板经验分享

网关

微服务

微服务架构

举报

猜你喜欢

大纲/内容

代码实现

功能测试

构建配置更新模块

代码整合

接入tcp服务代理

接入http服务代理

实现一套AdminLTE后台

实现服务接口

实现租户接口

在线配置管理

积木拼装

应用层：HTTP、FTP、Telnet、HTTP2、

传输层：TCP、UDP

网络层：ICMP、ARP

数据链路层

经典应用

层次体系结构图

OSI七层网络模型与 TCP/IP四层协议模型

整个数据包结构图

TCP协议图

HTTP协议图

websocket协议图

经典协议数据包图

协议和数据包

（Maximum Segment Lifetime，30秒--1分钟）

MSL是啥?

四次握手图

1、确保ack发送成功可能对方buffer慢了丢包了都要重发

2、防止已失效报文重新请求连接。

参照：https://blog.csdn.net/q1007729991/article/details/69686781#commentBox

https://www.cnblogs.com/pengmn/p/10836784.html

为啥time_wait需要等待2MSL？

现象图：Too many open files。https://www.cnblogs.com/grey-wolf/p/10936657.html

直接上图贴代码未close样例

为啥服务器会出现大量close_wait？

三次握手、四次挥手

回顾数据包结构

了解缓冲区的定位

传输过程图（带报文细节）

应用程序写入的数据大于套接字缓冲区大小，这将会发生拆包。

应用程序写入数据小于套接字缓冲区大小，网卡将应用多次写入的数据发送到网络上，这将会发生粘包。

进行MSS（最大报文长度）大小的TCP分段，当TCP报文长度-TCP头部长度&gt;MSS的时候将发生拆包。

接收方法不及时读取套接字缓冲区数据，这将发生粘包。

为啥会粘包？

使用带消息头的协议、消息头存储消息开始标识及消息长度信息，服务端获取消息头的时候解析出消息长度，然后向后读取该长度的内容。

设置消息边界，服务端从网络流中按消息编辑分离出消息内容，一般使用‘\’。

更为复杂的协议，如mqtt、json、protobuf

定义codec形式：https://segmentfault.com/a/1190000013493942

贴上自己的核心逻辑实现

示例代码：

如何拆包？

定义数据格式：msg_header+content_len+content

编码_encode

解码_decode

1、连接服务器

2、数据编码

tcp_client

1.监听端口

2.接收请求

3.创建独立协程

4. 数据解码

tcp_server

如何获取完整数据报文？

为什么会出现粘包、如何拆包？

窗口图

发送者与接收者图

拥塞控制图

为啥使用流量控制

流量控制图

流量控制

tcp 流量、拥塞控制

tcp 协议拓展

step 1 监听服务器

step 2 循环读取消息内容

step 3 回复数据

服务端

step 1 连接服务器

step 2 发送数据

step 3 接收数据

客户端

udp服务器与客户端，代码演示

1、监听端口

2、建立套接字连接

3、创建处理协程

服务器

2、读取命令行输入

3、一直读取直到读到\

4、读取Q时停止

5、回复服务器信息

客户端未执行close，会一致使连接处于 ESTABLISHED

tcp服务器与客户端，代码演示

创建路由器

设置路由规则

创建服务器

监听端口并提供服务

创建连接池

创建客户端

请求数据

读取内容

理解函数一等公民

mu sync.RWMutex

m map[string]muxEntry

type ServeMux struct{}

mux.m[pattern] = e

Handle

http.ServeMux.HandleFunc

注册路由

go c.serve

Serve(l net.Listener)

http.Server.ListenAndServe

开启服务

mux.match(path)

mux.Handler(r)

处理请求

服务器源码分析

Transport RoundTripper

Timeout time.Duration

type Client struct {}

type RoundTripper interface {}

主要结构体

c.do(req)

c.Do(req)

func (c *Client) Get(url string)

请求流程

type Transport struct { idleMu sync.Mutex wantIdle bool // 用户是否已关闭所有的空闲连接 idleConn map[connectMethodKey][]*persistConn // 保存从connect 到persistConn的映射 idleConnCh map[connectMethodKey]chan *persistConn }

结构体

case &lt;-t.incHostConnCount(cmKey): 确认每主机是否有限制？

case pc := &lt;-t.getIdleConnCh(cm): 尝试获取连接

case &lt;-req.Context().Done(): 一边监听取消事件

select

监听 pconn.reqch，写入conn

go pconn.readLoop() 一边读数据

监听 pconn.writech，写入conn

go pconn.writeLoop() 一边写数据

case v := &lt;-dialc: 新增连接成功

case pc := &lt;-idleConnCh: 有可用连接

pc.writech &lt;- writeRequest

func (t *Transport) roundTrip(req *Request)

roundTrip流程

Transport 连接池

超时时间概览图

server端连接是由客户端指定 keepalived 产生的

client端连接是由 transport连接池设置的

keepalive是发送探活报时间间隔 https://blog.csdn.net/qq_42316690/article/details/80463992

Keepalived时间与IdleConnTimeout区别

默认Client、Transport配置

客户端源码分析

http服务器与客户端，代码演示

代码实操

网络基础知识（为何需要补充网络基础）

代理用户请求信息：用户真实请求通过网络代理完成转发到达目标服务器，目标服务器相应后再通过网络代理回传。

正向代理：是一种客户端的代理技术，帮助客户端访问无法访问的服务资源，可以隐藏用户真实IP。比如：浏览器上设置web代理

正向代理图

代理原理图分析

先准备代码（上图），然后就是配置浏览器器（上图），然后就是请求浏览器正向代理功能演示这种正向代理技术不是我们研究的重点

代理接收客户端请求，复制原请求对象，并根据数据配置新请求的各种参数

把新请求发送到服务端，并接收到服务器端返回

代理服务器对相应做一些处理，然后返回给客户端

核心代码逻辑

反向代理：是一种服务端的代理技术，帮助服务器做负载均衡、缓存、提供安全校验等，可以隐藏服务器真实IP。比如：LVS技术、nginx_pass等

反向代理图

先准备代码（上图），然后演示结果也直接贴图，这个功能比较复杂我们稍后再详细讲述，引入http代理原理分析

代理接收客户端请求，更新请求服务器信息

把新请求发送到服务器，并接收到服务器端返回

拷贝返回请求头header信息，给客户端

拷贝返回请求内容，给客户端

代理类型

更加详细的原理阐述 https://www.cnblogs.com/xuepei/p/10437114.html

什么是网络代理

首先回顾一下上面章节讲到反向代理代码实现及原理

无法设置：错误回调及错误日志处理

无法：更改代理返回内容

不支持：负载均衡

不支持：url重写

不支持：限流、熔断、

不支持：数据统计

不支持：权限验证

不支持：websocket协议

当前实现的http代理问题

只做一个简单功能演示

连接池功能

贴图

后续我们会讲解各种负载均衡策略

支持随机的负载均衡

更改内容支持

错误信息回调

url重写功能

后续讲解

支持websocket服务

支持https代理

可以实现的功能有：

如果一个请求经过了多个代理服务器，那么每一个代理服务器的IP地址都会被依次记录在内

图片说明：https://www.cnblogs.com/diaosir/p/6890825.html

"X-Forwarded-For"

去除标准的逐段传输（hop-by-hop）头这些头定义了发出者和第一个实体之间的连接，而不是和目的地节点的连接。

一般值为：keep-alived/close

图片说明

"Connection"

request header

表示希望使用的传输编码类型

"TE" 不常用了解即可

response header

允许发送方在消息后面添加额外的元信息

参见示例代码：https://developer.mozilla.org/zh-CN/docs/Web/HTTP/Headers/Trailer

"Trailer" 不常用了解即可

首先补充一下header知识：http header特殊头部详解虽然不常用，但是有利于理解 http代理实现细节引出为啥 connection hop 头？原理图说明为好

http://www.laruence.com/2011/01/20/1840.html

100

状态码表示服务器应客户端升级协议的请求

HTTP/1.1 101 Switching Protocols Upgrade: websocket Connection: Upgrade

关于websocket 协议升级后期再讲解

101

再次补充一下statusCode知识：

验证是否请求终止

设置请求 ctx 信息

深拷贝header

修改req

Upgrade头的特殊处理

追加clientIp信息

向下游请求数据

处理升级协议请求

移除逐段头部

修改返回内容

拷贝头部的数据

写入状态码

周期刷新到内容到response

核心方法：func (p *ReverseProxy) ServeHTTP

明确核心结构体

都有哪些实现细节，我们一一来看看看它的难点有哪些？了解技术细节有利于我们分析问题

使用ReverseProxy实现一个http代理

随机负载均衡

轮询负载均衡

weight 权重

currentWeight 临时权重

effectiveWeight 有效权重

每节点有三个变量：

统计所有有效权重之和

变更节点临时权重为的节点临时权重+节点有效权重

选择最大临时权重点节点

变更临时权重为临时权重-有效权重之和

算法逻辑

算法分析核心逻辑：每论都计算出最大临时权重节点

请求次数分析：参考网页做下分析

加权负载均衡

新增或减少一台服务器以后，不会造成大面积的访问错误。

同一个资源仍然会映射到之前同样的服务器上。

新增一台服务器时，新的服务器需要尽量分担存储其他服务器的缓存资源。

少一台服务器时，其他服务器也可以尽量分担存储它的缓存资源

算法目标

crc32算法

构建一个环形空间

把主机映射到环形空间上

对象可以沿顺时针查找cache

添加或移除cache，单调分析

添加虚拟节点，确保平衡性

算法实现图

一致性hash算法

来源ip

请求url

一致性hash负载均衡

使用工厂模式

使用接口封装统计方法

反向代理拓展负载均衡

负载轮询

它处在HTTP request和HTTP response之间，用来实现某种功能，比如：日志、权限认证、限流等操作

认识洋葱结构图

方法链条

实现原理

router 创建中间件链式结构

router 构造基于链表的方法链

router 实现ServeHTTP方法，方便引用调用

实现思路

具体实现，因涉及多种回调和实现比较复杂一些我们简单过一下代码不必深究，下面还有一种控制灵活简单的方式

责任链模式

router 用于构建中间件方法数组

routerContext 用于方法回放及方法控制

routerContext 实现ServeHTTP方法，方便引用调用

将核心代理方法传入即可完成代理功能

代码分析

方法切片模式

后话，有了中间件就到了网关大显神通的时候了

中间件支持后话，有了中间件就到了网关大显神通的时候了，我们的rpc、grpc、http都离不开它有了它就可以便捷加入你想要的功能了学习一遍之后可以触类旁通了

限流意义：对某一时间窗口请求数限制，保证系统可用性和稳定性。

漏桶算法图讲解，考虑重新绘制

令牌桶算法图讲解

代码示例

判断当前是否可以取到token

Allow

阻塞等待直到，取到一个token

Wait

Reserve

限流器提供三种使用方式

计算上次请求和当前请求时间差

计算时间差内可生成token数，求得token总数

计算每次请求后剩余 token 数

如果 token 未负数，计算等待时间

更新当前 token 数

https://www.jianshu.com/p/1ecb513f7632

源码窥探

限流代码我们暂时先不接入网关，我们接着往下学习

https://www.cnblogs.com/cjsblog/p/9379516.html

https://mp.weixin.qq.com/s?src=11&amp;timestamp=1579832864&amp;ver=2115&amp;signature=H*QOdcw6ZEby2GpK*5T9cvg6nAX26XlV3rD2BOUWXMuQc5bigapyO6-xO80P3GSQ8lG-9dey2q9zSA6BuG6fcf5VxHuDNIX3w5ui0FcAHYjhEfYPPCgILATcB3CGLToK&amp;new=1

https://mp.weixin.qq.com/s?src=11&amp;timestamp=1579832361&amp;ver=2115&amp;signature=c6202A2BOxKWmK*-n6HM5CScwQy9QCuw1i4h2AMwWUL-rsNZrS3vCnSfB8wnc7AStbmL*IGPfempvhccouDaSzsJk-ou5XMN9fVyOH8b-ezbfBMyQ2hHzH2CDHUvhSFi&amp;new=1

限流

熔断原理

同步、异步二种方式

使用方法示例

流程图准备，从下面文档中获取

设置熔断配置 hystrix.ConfigureCommand(

初始化指标收集器数组 m.metricCollectors = []DefaultMetricCollector

go m.IncrementMetrics 记录到metric中

for update := range m.Updates

go m.Monitor()

初始化交换统计 c.metrics = newMetricExchange

更新时间窗数据 m.Executed.Increment(1) m.MaxActiveRequests.UpdateMax(float64(u.activeCount))

for u := range m.Updates {

p.Metrics = newPoolMetrics(name)

生产并发数量个桶 p.Tickets &lt;- &amp;struct{}{}

初始化执行池 c.executorPool = newExecutorPool(name)

sync.NewCond 通知锁使用方法

10秒内请求量小于熔断阈值直接返回false

circuit.setOpen()

10秒内错误百分比超过错误阈值量

或 !circuit.IsOpen()

指定秒数的探测

或 circuit.allowSingleTest()

验证是否允许请求 cmd.circuit.AllowRequest

获取令牌 cmd.ticket = &lt;-circuit.executorPool.Tickets

go 执行命令任何一个先执行完就归还ticket

go 执行超时验证任何一个先执行完就归还ticket

newCircuitBreaker(name)

GetCircuit(name)

func GoC(

执行熔断方法 hystrix.Do

func (r *Number) Increment(i float64) { if i == 0 { return } r.Mutex.Lock() defer r.Mutex.Unlock() b := r.getCurrentBucket() b.Value += i r.removeOldBuckets() }

type Number struct { Buckets map[int64]*numberBucket Mutex *sync.RWMutex }

用以10秒以熔断核心数据收集 type poolMetrics struct { Mutex *sync.RWMutex Updates chan poolMetricsUpdate Name string MaxActiveRequests *rolling.Number //最大活动请求 Executed *rolling.Number //执行统计 }

执行池结构 type executorPool struct { Name string Metrics *poolMetrics Max int Tickets chan *struct{} }

用以10秒内统计多种指标 DefaultMetricCollector{ successes *rolling.Number failures *rolling.Number timeouts *rolling.Number }

//指标交换器 type metricExchange struct { Name string Updates chan *commandExecution Mutex *sync.RWMutex metricCollectors []metricCollector.MetricCollector }

type CircuitBreaker struct { Name string open bool forceOpen bool mutex *sync.RWMutex openedOrLastTestedTime int64 executorPool *executorPool metrics *metricExchange }

结构体嵌套结构：

源码分析

实现熔断器配置

添加熔断中间件

类库与项目整合思路很清晰

https://cloud.tencent.com/developer/article/1454740

http://127.0.0.1:2001/hystrix.stream

http://192.168.3.4:8080/hystrix/

http://192.168.3.4:8080/hystrix/monitor?stream=http%3A%2F%2F192.168.3.4%3A2001%2Fhystrix.stream&amp;title=stream

效果展示

docker run -d -p 8080:9002 --name hystrix-dashboard mlabouardy/hystrix-dashboard:latest

集限流、熔断、容错类库 hystrix-go

核心结构体与配置

网关实战

限流、熔断高并发三大利器：缓存、降级、限流

原理

白名单配置

添加中间件

示例

客户端ip白名单验证

配置

jwt验证

权限认证

数据统计

拓展ReverseProxy功能

http代理首先来个http代理的串讲，他们之间的相互关系

ModifyResponse必须要加Upgrade验证判断

构建自测环境

http://127.0.0.1:2002/websocket

websocket支持测试

1、证书生成步骤可跳过

2、启动下游机器 demo/proxy/reverse_proxy_http2/real_server

3、设置TLSClientConfig的特殊设置，如果不考虑证书可以跳过即可

openssl genrsa -out server.pem 2048

openssl req -new -x509 -key server.pem -out server.crt -days 3650

创建证书文件和私钥

curl -k 'https://127.0.0.1:3002/'

grpc无法被正常代理

grpc代理

https测试

https支持测试

原理图

tcp代理原理

1、监听服务

2、获取连接请求

3、构建新连接对象并设置超时时间及keepalive

4、设置方法退出时连接关闭

5、调用回调方法

构建一个tcp服务器

1、代理实现回调方法结构

2、连接下游服务

3、设置退出时关闭连接

4、一边读数据一边写数据

构建一个tcp代理

tcp服务器与tcp代理结合，完整中间件配置，实现基于负载均衡的代理

实现步骤

tcp代理支持

grpc是基于http2协议的

grpc示例demo

http2到grpc数据是如何转换的？代码分析之

grpc基本知识科普

http与grpc协议不同

grpc本身需要proto结构体才能做转换操作

grpc是双向数据流

grpc实现透明反向代理难点有哪些？

原理图:要体现原始字节与proto关系

grpc代理原理

构建支持原始字节、支持proto的解码器

如果拿到的是原始字节，则不需要解码，如果不是原始字节则需要通过proto转换一下

构建输出方法，设置到server参数中

构建一个codec解码器

构建一个下游连接器

构建一个回调类

获取上游数据写入到下游

获取下游头及数据写入到上游

封装输出方法，设置到server参数中

构建回调函数

grpc透明代理支持

网络代理

主要当前主流：etcd、zookeeper

测试功能

brew services start zookeeper

构建服务发现

增、删、改、查 api

认识基本功能

为啥主节点一定能要是持久化节点？

代码演示

监听子节点变化

zk: version conflict问题

监听节点内容变化

认识zookeeper核心功能

分布式数据库

1、subject主题对象是模块配置

2、负载均衡器是观察者

3、主题与观察者绑定

功能代码测试

观察者模式优点：逻辑解耦，后期可以拓展N种配置更新方法

1、新增构建负载均衡的方法

2、下层负载算法实现 Update

结合步骤：

与负载均衡中间件整合

负载均衡拓展服务发现

构建积木

网关微服务配置模板经验分享

 收藏

立即使用

采集微服务

 188

 3

 0

Cognize

免费

 收藏

立即使用

微服务系统架构

 290

 0

 4

艾伦

￥6

 收藏

立即使用

通用微服务架构图模板

 62

 0

 0

架构设计

￥5

 收藏

立即使用

微服务架构

 1.3k

 14

 23

艾伦

￥5





0 条评论

回复删除



取消

下一页

亦凝

职业：暂无

关注

作者其他创作：

 624  2022-11-01

 1409  2022-11-01

 636  2022-11-01

 724  2022-11-01

 634  2022-11-01

 542  2022-11-01

 689  2022-11-01

 637  2022-11-01

 573  2022-11-01

 591  2022-11-01

 599  2022-11-01

 626  2022-11-01

 720  2022-11-01

 550  2022-11-01

 641  2022-11-01

 418  2022-11-01

 530  2022-11-01

 368  2022-11-01

 423  2022-11-01

 394  2022-11-01