|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示,
- _# W. R- G0 l* f# J) s1 j+ h
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
6 R9 X, g; q$ i" V从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。; K2 d" I0 j7 C. b# [( Z; f
1 \! h" g0 H3 x1 ]# T S. ~* d
那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)( k" d: n+ v- _" I( M! R
- g7 Y4 ^8 j1 y; }# W) g! |
! n; B/ ?! x( Y; k7 H+ D
- worker_processes 1;! _$ g- U0 ?& ]; C, w
- events{
复制代码 3 a3 D6 k6 w0 v) D: X' @, h2 ~
+ y+ t6 G( Y/ V4 r8 n重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方
- Y7 C {5 k: j, N$ W6 W
& f# P7 o$ Q2 `) c; V比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。& O% n( n* ^# h4 B4 n- m4 i( l
+ V% S& m2 R! a2 S, F
. M+ t' \+ ?3 [
接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
) ~/ w$ D9 v" I3 f0 U8 k: {9 n% ~4 E, I. B+ ~
# c2 a0 \5 [' Y! Z# x
& i1 v7 i& P# C1 X( n' G5 F, |& Y A/ V
负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
' t+ {" f) n. l) I) @: a! v
7 Y0 Y& ]' b1 C1 V
' d& g. ]. s0 h6 |5 I, |1 H这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。3 ] n5 y( c, E0 ]' \, H* c
2. 加权轮询,使用weight参数设置,配置如下; ]+ ?8 y$ A8 `6 g0 B
4 c9 N9 b2 Z8 ]1 x
3. ip_hash策略
2 d# P: k( }7 I; }& C2 O& I0 A(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:
; x3 c) d! {! t, O) x 其他地方保持不变,在upstreaem中如下设置:+ W5 x- c, K' p! e+ }
4 v- y5 x/ i4 M- G1 W
! i$ Z7 d5 [: b, l6 S! Y
5 N U; x! ^! K* K5 e4 `
7 N/ J* C- e7 j' l; `0 h0 A4. fair策略2 X; _6 H' t! c& j0 w9 `& F
(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
0 y1 |6 L* L9 E5. url_hash策略& D/ N: c0 C, P% ?/ G
: J6 Y5 _( S0 ](类似于ip,只不过绑定的值是url,这个也是第三方策略)7 P% |$ J. e8 C7 M
fair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可6 w( ?( p ]! C
) k: l- h3 |) h6 O5 p. ?) I
" R' s) f y. c: Y6 O2 T5 l
0 P$ O" D. X& U* L8 l' `url_hash策略的用处?6 g4 g' |* T- c4 a1 S) L
' r1 U) S: Y) l- n" Z8 lurl_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
! P( ^' W, n6 m# R3 w7 r
# ?6 u% g: W4 S2 m$ m2 Y. X原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
* A. R, r6 |% B3 L% K. e0 i% g
. J: w5 h {" f- H v9 [5 t. b, a7 M7 F, Z
9 |6 e Z9 _/ L2 e# {其他的配置7 h' Z @8 K! V
备份与停机状态:
& A3 `1 R9 u2 L( X1 Iserver 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;
8 m' `3 B3 P' K* l5 h
v) n1 ~" t7 x3 kserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
6 s. i$ k4 y7 T4 _: K" n3 T
" }# f' N; G% N. O& i m. Qdown存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。2 n$ }5 u" e. e4 A8 C
' t. ^5 b$ U6 O, f( k4 Y
' ]; f0 D* f G& S
\2 } Z, n+ P: O
max_fails: 达到指定次数后认为服务器挂掉; G( o0 p3 n8 t
- o* U0 w7 o$ v3 W% M+ V fail_timeout:挂掉多久后再次测试是否已经挂掉
8 Z. ~- I5 R% c) v2 d( O, e5 C2 |
# L; o4 P" }8 V配置命令
/ q/ c" g5 i _5 r+ {
5 @+ [) X% r) W$ _; M2 cserver 192.168.1.66 max_fails=2 fail_timeout=60s;
* h, {0 B9 L. ] g0 K- O) a( T( t. T. D0 N$ \
后记
& j8 `; p! q9 T$ C; F我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。3 j( P9 w- p: n% n
# b8 x: p$ R' v7 A* ?# Z
% C' A+ D% |. O1 A/ _
e K+ ^. @: R2 k: A( z
# f. B; |4 O# u: j6 ]/ f9 W! W; @: u A; |( Z
|