|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示,
7 g8 W- g1 f' v2 l% o8 t! T$ z
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
; y( j: q9 k& N从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
6 p; k3 `$ k; Q/ d) W) J j0 ]" m( R O5 ~( z; w7 n3 F
那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)4 }1 a+ Y# P @! y
+ A3 m, _1 s3 ?& \. g) \3 L9 P
# e) A& ?0 y; v6 }' R- worker_processes 1;! A5 B$ l! X& y" k
- events{
复制代码 ( |2 v& @/ c( P. z; y) y
% A- z5 D* i6 i4 l
重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方7 z/ P2 `8 i- P: u' S- e
% O' P. Q; f7 t
比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。. T& h& r" u" E; K- V9 E
5 K& q- F' Q# N3 Y/ u3 n v
4 ], u- o, H1 |" t3 } N接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?/ I# y. S. _& F# S7 L. ?* {
& Q# f6 l% u5 [& ^/ h
) T% E$ z1 [, G) C
+ [- M' h0 B% S ?% J2 E2 V. |( {
8 A# J; F+ M; J% o: `8 n负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
5 ] D4 \5 ?4 o# t- m; Z: D, }1 }# d5 W
7 L- r6 _+ I6 u0 e2 f$ o0 H+ ^: Q1 I4 Z. v% V0 \: Z6 y$ ~
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。" \ ]9 L% r, n. h8 d/ R' y/ w
2. 加权轮询,使用weight参数设置,配置如下' K6 Y* W' W, q5 E" O/ l9 L: c
4 R* j# ], q. ?5 W& ~( c5 N
3. ip_hash策略% q0 p9 ]; j) a" s N3 \' k
(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:, [& a, r9 q) o/ W: S7 f- V
其他地方保持不变,在upstreaem中如下设置:
4 [/ l0 E6 i7 X% }. _7 l2 r, {( V
( M/ O5 e# g: R( {& B, p/ _) V S1 G: C
" F& E- I- [" t# l. O" V& ]+ e* j# l) b8 m5 Z: d1 F* ]
4. fair策略, R4 A- X, `$ ~/ B* I
(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
' A% m1 c4 Y6 D' \5. url_hash策略
5 j6 i/ i' C( ]6 B d5 J. t
( e3 g6 X! r Y! J7 x(类似于ip,只不过绑定的值是url,这个也是第三方策略)
, H0 o2 Q) K" ] _5 Z dfair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可
, G; t" w w- D; u2 V% A" Y
+ a9 d. P" Q/ z5 v9 n. l3 R3 }$ b* O( o& r9 t* Q
, d. Q) L" C ]7 D" \- I. Gurl_hash策略的用处?7 o- D4 J5 U0 w! \# m# B
a8 z5 e* J# s; L% R2 R( Lurl_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
" D, J4 J9 x& o: P; e2 S. t; t' N' R+ M/ k: z% Q' N/ g
原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
' A% g1 X' Q, a1 j7 B- T* s& z) c& i/ i2 k( G) a: L
0 G) R- d8 q7 O0 H" Y! L- L3 e" w
1 U' C/ ]7 s- J7 u+ `其他的配置
0 I, N Q0 G4 z. x3 ?' ~备份与停机状态:; _! r% t$ W" |/ _4 k* b) P
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;6 O: A" X3 F' }! z2 Q
: x! y( V; n1 l4 j1 l- ]4 fserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,1 j- G2 }. x: [
- q; I: }/ u @, i* c8 l( V* `4 x
down存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。+ ?7 D1 D+ H. T7 I
- n* Z, f0 X4 l1 W/ k5 f* k9 w# P) Q5 d! E# P }
\3 l9 s6 t+ emax_fails: 达到指定次数后认为服务器挂掉4 A% ?/ ~* |6 {/ h5 \9 x/ Q
6 f3 X9 N6 `5 \% v: e: K2 }: J7 \ fail_timeout:挂掉多久后再次测试是否已经挂掉
; l+ l7 O C9 n" M6 _1 [
/ O4 I. R- ]% s/ d; z4 p! U配置命令! O6 @7 E, ], A
- l6 p) a8 N" ?: R# t% H
server 192.168.1.66 max_fails=2 fail_timeout=60s;
0 W' V' R' [ k5 a8 F& ? J/ I7 ?* }) n' a/ F
后记
6 Q( q6 {+ G. V. V. Z+ `我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
$ ?( Z' U, q, |( w! a( I4 l( v: D& H, d4 T! P
2 k: W) q3 g5 S; N2 ?$ E
9 V' g4 L/ |- f: |- c) y- b0 h# ? _
( E2 D, K/ [9 b
|