|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示,
) P+ O/ x% t& v. C; H1 U7 @
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
; Y& O1 Z1 {8 y. a从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。3 d+ E6 ~2 k5 J/ Z5 ~
# |5 B& w/ [* }6 a6 a1 h那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)( j# q; a- N. d9 C" J! F3 g* x
7 m4 P% o: C1 p0 H" E4 w7 ~6 q) k/ c; ]7 h; D7 p
- worker_processes 1;
' Y: @: l0 S' G( [ - events{
复制代码 : P/ \. b- ~9 \3 |2 v1 i" J, k7 u7 R6 r7 j- N
3 o" b" p& Y7 \
重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方4 s! i; l8 u" B1 @! d% p
) f4 m+ }& I/ s1 ?2 i" n* l
比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。
) ]. l5 C& @! O/ \1 ]) U
; Z* T7 D. W, z3 L' K2 k* _, y) {! P2 y1 O) t `$ t* z
接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
+ e: D* a* e& C: Y0 z, Z2 o2 R: G" G6 Y* T$ o/ Q2 Z; k
$ _- X. y8 k4 O) N+ l8 B! Z# F$ J
5 P- ^+ U i" R' b: _0 l8 e( |" ~& ^$ x: v& I
负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
9 \/ |, |0 i, S( F, @: u- Q+ U% e
$ O3 |$ z0 O: U5 W' o
$ p8 ^4 l, X5 e' ?1 k+ G
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。5 h8 b: x, B) u: z) K8 |& G9 x, I
2. 加权轮询,使用weight参数设置,配置如下+ x! o, B3 e f9 `4 y' d
. C$ F. {' V: Z+ R d
3. ip_hash策略+ F; d$ p0 m4 L, K3 @! C
(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:
* d3 A3 s- w7 v/ h2 ~5 U 其他地方保持不变,在upstreaem中如下设置:
( i+ q# N. B. G+ j
2 l+ f* c( f" f, A* c' ?
" q' T/ G; A* B/ J B
( v$ N% Y+ D* U
8 i- W2 k* ^5 Z5 `8 @
4. fair策略
, f+ o0 O3 `( ~4 H' w/ J(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)9 p S2 h- r8 _: A3 j$ H/ ~' @
5. url_hash策略
5 F# H$ P0 _5 R# ^
( V; N" d( Q- c! t(类似于ip,只不过绑定的值是url,这个也是第三方策略)
% g; D2 V1 C$ Ffair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可
9 y1 Q( O( n% ]* H1 ~ j
4 t6 k2 R+ z) S8 r' ?( K; h
; b. h: ? A* F. H4 Y7 t: B" }1 k; W0 a$ G, M6 `+ h- O, I
url_hash策略的用处?
' R2 m" K# h0 q2 o {+ d3 e" N) `9 u7 K8 C, ]
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
! [3 N1 L4 Y) X- z
5 x5 y3 ]( H) F g4 \/ s4 E原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
/ b9 f2 d9 z7 z E {/ @+ b
5 ^5 F G& X" U6 T2 h3 E# s8 x& o' S" ] V# n$ t
9 u; L _8 c. {4 w3 x" B其他的配置, L4 m4 U7 ?6 U4 L5 m$ F
备份与停机状态:" U2 D P% e6 q' [4 _) o5 @: M% S
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;+ W2 H, n% B4 b" u
5 F, d1 q- V1 {' H0 {: n. aserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
. ]8 b$ i% u7 Y" h6 S9 v; i0 B. T, m/ I
down存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。& {7 _& ] D5 g
7 O, ?! c% n4 R" Z, H
9 d" ?) U, k7 X5 f, N; F5 e
/ t, e- ]4 ?; Jmax_fails: 达到指定次数后认为服务器挂掉4 E) Y% T& ?4 v! u' {3 A b
$ r5 Y0 k0 l/ B: Z- m2 C# j fail_timeout:挂掉多久后再次测试是否已经挂掉
- {' _7 r! u: p9 J$ w0 _3 u/ U
配置命令2 [7 ~9 e- ^+ d# x# g' `# J; O
0 [8 l5 o+ T! ]server 192.168.1.66 max_fails=2 fail_timeout=60s;
/ c) r9 G1 ~/ o% Y, x5 [) W
$ Z& [ v% ~" `$ e7 s0 I5 W 后记; z: v. Z3 ?: h# M
我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
2 [5 H! Q2 e8 Y! |
+ k3 s- S5 M# f$ b! l! H* d+ o% j. Q) {4 `1 f# B
8 A3 I/ p- K. J5 I; r5 B: {0 u; v6 l, p/ R6 {
1 |+ N7 K9 _# U( E) l+ I; I
|