|
Nginx的负载均衡是基于反向代理实现的,因此,本文先讨论什么是反向代理,再在这个的基础上讨论负载均衡以及负载均衡时应该注意哪些策略。 反向代理:如下图所示,
( m1 Z( B, ]1 i+ D' I
↓-----Nginx将结果返回给浏览器---丨 对Tomcat来说,只知道服务对象是Nginx服务器 浏览器 -发起对该域的访问请求-> Nginx --------------Nginx将请求来转发给Tomcat服务器----> Tomcat... 丨-对Tomcat来说,只对nginx负责,将结果返回给Nginx服务器---↑
7 e& k9 U q. M% N5 Z$ _* E5 _从图中,我们可以知道,对于浏览器来说,他会发一个http://www.a.com/uri请求到Nginx服务器,对于他来说,他认为数据就是从http://www.a.com/uri域中返回的,事实上,当http://www.a.com/uri到达Nginx服务器后,Nginx服务器会将其转发给http://www.b.com/uri,从http://www.b.com/uri域中取得数据并将其返回给浏览器,这个步骤浏览器是不知道的,也就是说,浏览器并不知道http://www.b.com/uri该域的存在,同理,http://www.b.com/uri所在的域(图中的Tomcat)也并不知道浏览器的存在,他也只对Nginx负责。Nginx的这么一个过程便称为反向代理。
' C o2 `& _1 T8 M7 z) ?' c" ~" Q) J2 S7 X4 v2 q
那么,Nginx服务器是如何实现这一步的呢,事实上也很简单,只需要在location中做一下简单的配置即可,命令大概如下图所示:(配置完命令记得reload重新加载才能生效)2 t o, D* t/ Y1 A( x4 w
, d- f. d. K* N/ [3 h
* V9 z7 `' }* `. u% P1 G3 j- worker_processes 1;
# q5 I0 w6 h& `: f - events{
复制代码
/ t- D! l. F: N/ h5 |7 \3 ~. B/ ^' X) z
/ |2 D; z! W- F c+ P( r% _重点在于location处,这样的配置代表的是,所有来自浏览器的请求,在Nginx收到之后,都会代理到http://192.168.1.62:8080所在的地方
5 j* H: ^6 N/ n0 B% e! q- ~ Y( H- n5 K9 A/ ? f* G
比如,我浏览器上发起http://192.168.1.61/a/index.html;Nginx收到之后,将会发出http:// 192.168.1.62:8080/a/index.html这么一个请求到所连接的服务器上,如上图的Tomcat。
9 m4 m/ M, V5 I7 i1 ^$ }
% U$ B4 n/ ?0 Y$ p/ [* _" Q- l
5 \2 f/ W2 H1 [接下来我们做这样一个假设,假如后端连接着几台。几十台服务器呢,这个时候Nginx也是做同样的代理吗,答案是肯定的。图示如下:那么,在这么多台服务器上,Nginx的转发又是基于怎样的策略呢?这个时候就涉及在负载均衡了,说白了就是,应该怎样的分发,才能做到资源的最大限度的利用?6 }. r2 n/ b% h# V3 E% x4 U0 @& H
4 f* v6 m* [- |8 p. d, B
+ G& J: F" P7 m$ K3 f! C% r9 P
3 n3 k3 G; W: c1 O% h& \: }1 A
" F4 o$ [2 `- \0 x- }负载均衡策略( 我们这里假设三台服务器的IP地址分别为 http:// 192.168.1.62:8080 http:// 192.168.1.63:8080 http:// 192.168.1.64:8080 ) 1. 平均轮询配置如下图: 9 H+ H) v' Z. t; o
0 W0 s# S+ N' j% N) {$ G
" z) Z5 O4 h) W" _这里我们把后台所有的服务器放入upstream中,并在代理中进行引用。
! t9 V- U! T1 z3 s# c9 U- {( Z 2. 加权轮询,使用weight参数设置,配置如下( R r7 k6 o3 M, ^( _+ k b
. |8 ~. h: M, I% {* m( U3. ip_hash策略: ?" c$ p! h* D
(根据用户的IP地址进行hash运算,只要是同个用户发的请求,就会被永远地转发在某台服务器上,比如张三发的请求第一次时是由Tomcat1返回的,李四的是有Tomcat2返回的,那么,以后张三的所有请求,都有由Tomcat1返回,这就是ip_hash策略),配置如下:) I$ `$ o2 D% D1 f& M- J. {6 R
其他地方保持不变,在upstreaem中如下设置:4 j& m) U$ r" t! h0 q: ~
! F# d$ f" r/ h' d2 [- N( s
1 f6 I3 m5 @( u# @4 v% y
" ]% m$ V K1 b0 U5 c3 {* G3 R! s3 f' G1 p9 r* J8 I6 K! {! I d
4. fair策略
7 P' k P$ J4 w+ a2 W(动态weight策略,我们的加权轮询是显式指定weight的,而fair策略是根据服务器的响应能力进行动态指定的,而意义上讲,我觉得是更为智能化的解决方法,不过这里要记住一点,fair策略是一个第三方策略)
" ?% k& v8 I) H1 i4 K' l( _3 z5. url_hash策略0 g' @- R3 \$ |) D# e
, X! E0 Z( C3 Z: c( Z
(类似于ip,只不过绑定的值是url,这个也是第三方策略)5 e" [- f/ X" |6 T" E* ~! c+ v
fair策略与url_hash策略的配置与ip_hash策略的类似,直接把upstream tomcats 中的ip_hash替换为fair和url_hash即可,不过这里需要注意的是fair和url_hash都是第三方扩展,因此需要先安装第三方扩展模块,直接百度搜索nginx-upstream-fair-master.zip与upstream-url-hash -master.zip;解压安装使用make&&make install重新编译源文件即可' @9 a9 N3 |% n. z! w* x q0 m2 w
- n& n6 g4 m# B6 {
' a$ ]" H' e0 j: r. o! B
8 \: i7 Y$ ?0 ?. ]9 w6 q( K# durl_hash策略的用处?9 k/ P7 w2 V L( ?( @
4 {; o" E) C) g# a3 C! {+ f2 Nurl_hash策略比较适合于大型电子商务网站,对于不同的商品便是不同的url,我们可以据此进行负载均衡。
) `, z( V; Q( g/ W9 a# I6 }; r( c2 {% [2 S M1 }& E
原理就是不同的商品形成不同的静态页面,然后服务器根据不同商品的火爆程度,按照命中率高的放在缓存里,加快访问速度,也就是说实现了一个基于缓存的服务器,相当于把有限的缓存最优化起来;; A& U2 X8 n/ z# N5 g
% q' B3 g: t3 X% v+ u) T
4 d* [7 _0 ]+ T; q9 Z( d' Z' T: a. ]. }5 }6 y4 X
其他的配置
# T. H3 n- R j1 X备份与停机状态:
/ ]% ^" V, z/ [2 h+ M, Q) Xserver 192.168.1.64 backup;//备份,不参与转发,只有当所有服务器都挂掉时才参与转发;4 f6 }+ t4 j5 p% n
, E, D. [& l* W% Q' d3 G1 Oserver 192.168.1.65 down;//临时停机维护,不参与任何转发,是关闭状态,
2 c/ |9 J+ ?8 W
6 R; m0 N+ n' K1 @down存在的意义在于,有时我们需要对服务器做临时停机更新维护,假如我们直接关闭服务器的话,那么对于Nginx来说,他还是会把请求发到该服务器上的,因为他并不知道服务器已关,而设置down后,Nginx则不会再发到该服务器上了,避免造成无用的请求浪费。
/ i5 d, J6 r X) D; ]
5 j0 k$ Y9 `0 R+ B& r! S ~ h2 ~, v
) \) C9 L7 L- d3 m' {' X6 q; O `max_fails: 达到指定次数后认为服务器挂掉) u) A1 Q& \' \" P d) p3 X3 i
3 ~! }+ c4 I: k7 e- C
fail_timeout:挂掉多久后再次测试是否已经挂掉
; d9 @4 I) \" A- i, x6 \, K6 O L7 M" ]8 }9 G5 B( K% s7 A" `
配置命令
7 ]9 E. {6 Y) n5 M( u
0 |. k; ]& {1 Rserver 192.168.1.66 max_fails=2 fail_timeout=60s;+ T' q& y* t* U$ A, S$ l( R
! U& l2 I- ]" P
后记4 b! V# [6 y+ t* G
我们知道,服务器是会存储用户的session的,那么,如果按照上文所说的,比如fair策略,每次Nginx会根据后端服务器群的能力把请求分发出去,那假如第一次时分在了A,那么我把数据存储到了A服务器上,第二次时,刚好被分配到了B服务器上,那么问题来了,我的session不就不见了?(这就是我们在访问部分网站时有时我们的登录状态会不见)当然了,你可能 会说,ip_hash策略不就可以避免这一点吗?没错,这确实是一个解决方法,那除了ip_hash呢?其他策略下又当如何呢?下篇博客将会讲到负载均衡下如何对session进行处理。
5 r2 Q: \$ \/ F3 V( R9 K# S; R" t+ h- o) {
+ r$ l: v/ e. C# x' z0 J. p# K
" t. d8 h7 T I, G l& z; D' }9 T
; o- m' T: p/ t/ [. r" @9 g6 H- z4 G. a7 R. w1 B
|