|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示, " q6 e- y0 g4 T& l, Y* N+ J
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑ & v7 o Y5 P- g0 \+ \
从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
2 Y* t+ j. Z1 D3 u
. ^+ ?" F% z# s那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)
$ j9 r4 W, s' {
: x0 l: d. n: S" E v
0 ^1 e9 ^' {: y- worker_processes 1;) B* L+ v0 k/ Q/ t
- events{
复制代码 1 p, U0 Q; z7 o
( F V ^/ t$ b* t: k8 L
重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方
+ X: P5 \3 \- f, W
% U i1 J' `# G u: G6 O5 g, ^* W比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。5 h/ P5 {, [" i A: l
6 j9 s& m* D& n5 q4 e
( n2 }- p" t3 D" T# G接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?
. _, A0 q8 H0 }' T4 d# j! s( V W1 u5 a
! b7 W5 K" C4 [' c D4 i
& ]' u- I; l2 T* Y& m( ~
) B+ B3 h5 L+ d' Z9 z3 b负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图:
! J- {; q' n4 B# P
# e4 U9 x. z, N) R/ e: }
% T* @4 Y* @! u8 U/ F
这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。5 Z0 M7 s6 y2 X" }
2. 加权轮询,使用weight参数设置,配置如下
: Y7 b* J/ ~7 j
/ b4 b4 w# @9 Q0 ]7 ~7 d
3. ip_hash策略
: k2 [! E5 T+ g5 m) s(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:
5 c: H. T% Z7 V) o. l$ c7 E) e 其他地方保持不变,在upstreaem中如下设置:
2 K6 H+ q4 l3 E% V1 r2 D7 Q9 Z b; b, x
2 i( @. N0 ^' s* Z5 c
T6 ~4 l- E+ _6 W! o
$ G8 O# u" w) Y$ }* w! k: O
4. fair策略
# }) y" B% i$ Q& |& z(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)- j+ a' M% b, [' M p0 `
5. url_hash策略/ _1 I- w7 b! Q; n+ U
4 Y3 H$ `, p. z# D+ ?& I! ]* R
(类似于ip,只不过绑定的值是url,这个也是第三方策略)
- T3 P0 c1 i. D5 Efair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可
# ?) e& d$ A% ~ ~% b9 f' w/ {3 A
) Z0 i& [3 n2 N, ^" J* \* R& d+ r" O5 Q; j+ k) C
( e% a* S( j8 e6 N
url_hash策略的用处?
* u! y5 m$ I4 t$ p$ t& } a- ]2 D0 ~, r& ?: d0 s0 c0 l! `
url_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
' |- K. _& C; G- ^; b0 \7 o3 ^; Q3 n, j
原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;5 o5 q! o' Y" b) E
- N# n4 t' I" E' K# G6 x$ u* ^/ o9 ^: b4 X/ R6 w
6 \+ j7 C3 U, i" h E9 g其他的配置
. y" ~4 X2 K2 G) ~' c& T4 n- y备份与停机状态:! a3 |9 ~' @- B. p
server 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;/ O/ J6 y: s1 Q' y4 l* G3 d& K# q
1 G# c0 e C( L: h/ C. t
server 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,) k7 c" I9 O {4 P: m
8 u8 ^( {' q1 H4 H7 p. pdown存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。
5 H7 F* [+ E# Z* W/ |2 u; t9 X6 j
+ Q3 _2 y! b$ D l
( j$ |1 }/ N1 y4 d. g$ ^' {! `
& P" \) E& i3 h2 s/ cmax_fails: 达到指定次数后认为服务器挂掉
1 A$ t( ^9 B$ G0 [) H9 x6 F8 D g( k# `* l% `) h u
fail_timeout:挂掉多久后再次测试是否已经挂掉8 [. S* ~. N" s# I% e* D
% ]/ g) K) H0 w/ s$ v- d8 K- f( b配置命令0 S# M1 ^" a9 l; I4 r i! O0 _
6 a! L: ]! f1 H& {8 V# K! ]5 w
server 192.168.1.66 max_fails=2 fail_timeout=60s;
" {! z# e1 D5 A1 u. t0 `; x- x
+ t& b u8 ]% q! _# z$ e1 B 后记
8 n1 p( y+ |5 X# {6 U$ |+ P我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
$ `9 ^; g: B R5 H7 H9 x; p/ y1 _' H% N; y6 y* ~: j4 |- O! w
J0 Q2 R/ ~( r
. M, L2 b7 v) C6 Z' P+ w/ I6 J2 X! P! ^" X U" V" J
# I+ C4 s. U* o0 i
|