|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示, / {4 O s8 \& I! l, F
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑ 7 g! K4 q0 }- a& j/ R! D# Z
从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
, T0 Z: y& U) w$ P( y( t- ~9 l' B
那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)# y, E# I& A9 a0 v! m1 l; ^) c
( ^. Q; B6 Z+ V, g9 g" H- \+ \' M
) j) T" B9 F+ d- z3 t( s$ @- worker_processes 1;
% u0 ^! b& Y3 C4 Y- _0 t1 t - events{
复制代码 . d! P7 }6 s# M. P0 `. R$ C5 y# @
5 G, i7 M2 M, J) x0 V' w2 ]
重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方/ Z8 }2 g* k3 l. A) W( d
; C: z/ f1 I+ x1 m* _* [
比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。* N8 z! v* m+ ~" W# @, o
" z4 Z/ t3 r2 b7 ~3 ^# Z
/ N- r- c- i+ B5 ~# \% R" a' P+ E
接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
$ v- U% B X2 K1 K U E) I( a: V8 Q4 }+ `
: M1 q7 b9 r! l2 x$ w$ T* {
- {5 e2 a* l' g0 n$ d1 s) c
0 }: W8 \3 R, u- q
负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图: 4 m% ]# u0 @" E
& {: R+ i6 @1 m- N% `8 e
" a: a* @* W. _- U+ \8 b2 Q
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。
7 p) _* ~+ u# x, q# z0 S# l7 [5 d; R 2. 加权轮询,使用weight参数设置,配置如下
. y+ t' S& s3 X* I4 ?
: W% L( B& C% _+ G9 }# x3. ip_hash策略: W9 O5 B& o# ^5 C( ]
(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:3 K1 Z) R1 C$ d
其他地方保持不变,在upstreaem中如下设置:' Z A$ D; d2 o+ b4 T# H/ Q
' P& g9 U9 {4 C" P4 @
- S* |" H5 P, U6 }- @
, h2 r. |6 {6 H8 J2 |: v
4 k$ T" I4 B1 C" w
4. fair策略
% {) d8 \/ W3 v/ b; D1 [7 N& p9 F" j(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
0 N. Y1 u1 {9 o1 M! R* Q/ N5. url_hash策略5 D4 D) e0 ?0 U' v
- ~& O6 A% C1 ]+ D! \+ ^& a! o(类似于ip,只不过绑定的值是url,这个也是第三方策略)
5 I5 h5 f; d- ~fair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可1 n( `" i y$ a# D7 J3 A8 [$ Y& V
* d+ \ n# j ^+ o: J5 \$ f. J5 C$ U$ r: x
1 `9 r7 D" u: g6 k
url_hash策略的用处?) T/ X8 g0 L3 u& ~
& s, `0 h/ r' ?$ x
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
1 O, E) J" y2 E
+ ?+ y/ B' R* F W$ w) V- z4 x原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;
z9 l! ~, {* |4 n% b( J, a v! l9 U2 N+ G
+ [! L1 }0 N, \- m9 M
( k/ ~" }) q2 I$ `1 c& A其他的配置7 w& u' q- g7 R* C
备份与停机状态:- i3 U$ e) R5 |2 c- F/ j
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;
) T$ h+ F! y# {9 X! T0 K
; D8 _* Y% m7 E1 |3 g1 ?server 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
0 o3 U! o% ]2 ^
1 l0 i" R6 J, j. n6 V n- Ddown存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。
; {" H6 A9 l! |3 p9 x9 _: a7 u1 U( k% v8 E! X- o
1 r/ N- @. ?6 T2 p3 f$ W3 ]( W3 ]! f$ M- j% h2 B
max_fails: 达到指定次数后认为服务器挂掉) [* F+ \+ b" u& P
7 m+ H/ y- `3 O0 n/ o9 v
fail_timeout:挂掉多久后再次测试是否已经挂掉- @& }1 ?9 |0 y" r1 q- ]
& O: O8 N& I) A! z1 N$ o! ?配置命令 p( [5 b2 N6 v; ~, f. e
$ H1 g" `4 D: F- c& b$ K, |
server 192.168.1.66 max_fails=2 fail_timeout=60s;
+ ?' l2 ~+ r' e4 E: E( h6 W8 h: U' s- j& R+ a" {
后记3 q0 Q" Y! ?/ _: t5 C
我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。$ v$ j. M/ L3 O8 D. ]( S6 }5 ?
5 X# o$ l$ y& G' O( D5 f
5 h$ G! T4 r& |& I% o
5 P# j) {# l- K2 Z6 C4 q! {: V; h& V) T1 R: N% ]3 {0 Z! C
. [. l: g' C, ~$ O: ~ |