爱吱声

标题: 谈谈大型网站架构的一些关键技术 [打印本页]

作者: 季侯    时间: 2012-1-17 10:11
标题: 谈谈大型网站架构的一些关键技术
想进黑虎帮,没积分啊,发点贴; i0 F6 {. L1 N1 T1 e9 u+ X
. k9 _6 e# L. V. j8 B) d
" j1 q: T) B) u. }( _
最近12306很火,无数人站出来为铁道部指点迷津,提出了无数个解决方案。虽然很多人没做过网站也没写过程序,,,,,% t* a2 h+ m+ r$ b" s
  e7 Y9 S' M2 e- T
乘罗教主还没空,我也凑个热闹,说说网站架构的一些东东。当然了,纯技术的东东可能没人喜欢,所以我保留随时挖坑不填的权力。) X, q+ v2 r. C* K& ^/ v

6 n5 M9 u! W) k: ~6 w' w6 V1 先说说cache
, l3 ^1 s: D; X
6 z& ?& B8 o- a" V- b7 a2 u7 P- t) g! n
作为一个老军医,总有人问我,“xxx,帮我看看,为啥我这系统性能这么差?” 我的第一个反应就是,瓶颈在哪里,cache怎么做的。
) ~. }2 q1 Q) v! u; W) w
: @, J/ \& Y. r9 T3 h6 j  [0 ?常有人说,木桶的容量是最短的那块木板决定的;那么如果把一个网站当作一个木桶,网站开发者这个桶匠绝对是个杯具。因为他拿到的木板太参差不齐了,有的长有上百米,有的才几公分。
4 j3 P! e# q! d0 s4 c  d
. v1 O$ a) K3 u3 B9 f+ Q这块最短的木板往往就是数据库了,以12306为例,常见的使用场景是:; m- X% W' Z* ]+ D8 w, v& g9 d
: {  @% {9 v5 {: s
用户登录上来,根据出发地和目的地查询车次,然后选择 一个有票的车次买票,下订单,付款。. t5 d) W4 G1 h

3 O% W# u- h. i6 K0 m7 ~不管是登录/查询车次/查询是否有票/下订单/付款都涉及数据库操作,是一个典型的读多写少的场景,数据库将会是瓶颈。那么为什么数据库会是瓶颈哪?
" x6 z( i% ?, t* Z0 u
( D4 ^7 f- W9 N$ R; s1 数据库操作相对web层是一个非常耗时的操作,单次操作往往需要几毫秒,并发链接数也只有3000/4000;而nginx之类的静态服务器,每秒处理10万个请求,支持数万个并发链接无压力;所以只要稍微大一点的网站,数据库很容易成为瓶颈;7 |8 B9 L4 @0 ?6 w- M- r4 R3 N, \

; b% m3 s7 \& l$ |1 T9 n0 ?8 V2. 数据库链接是一个非常昂贵的资源,一般来说单台mysql服务器能够只能提供3000/4000的并发链接;一旦大量web请求到来,那么很有可能申请不到数据库链接,不得不排队;当队列中的请求累计到一定数量时,新的请求很容易超时,从而失败。
+ c7 T9 n8 c4 G: d
  J# c( Q( j/ k$ S% T0 {3. 查询操作太多,基本上每买一张票都会查询很多次,而每次查询都会产生数据库查询操作。虽然可以通过建立合适的索引加快查询,通过读写分离/水平分库等手段降低单个数据库的负荷,但是只要数据库操作数量大到一定程度,那么唯一的办法就是减少数据库操作。
- s$ C" n- S$ g+ J* {1 J7 |' b( T  y( h- H6 F# [
将一些很少变化,但是频繁查询的数据缓存到memcached/redis等缓存服务器中是一种成熟有效的技术。以根据出发地/目的地查询为例,以往的查询需要从数据库的车次站点表中查询,现在可以把{出发地/目的地}-> [车次列表]的映射关系存到redis中,这样每次查询的时候直接从redis中就可以得到。* |# U8 L* ?: o4 ^3 O1 Q+ ~  O

% Y3 i8 v# u. u+ A7 b% G% [1 E9 X8 I这么做的好处是,从redis中查询比从数据库中查询要快的多,相差不止一个数量级,redis能支持的并发链接数也远远超过mysql;所以能够降低了数据库负荷,也避免了数据库链接资源的申请。: z1 ]& t8 C/ ~! M+ D
0 X' T0 H. N' s4 L* W3 Z% J
所以采用合理的cache技术,降低数据库负荷是大型网站架构的一个关键技术点。
9 I, y5 {' w* W. k' l! w
作者: 谜团    时间: 2012-1-17 10:23
把任务分散我觉得比较好! G. ]- L$ d6 G* g
分成100个桶
( v8 h2 Y5 m8 c* J4 P每个桶里一定票! M5 J. j* _! {; Z( R& Z
用户自行选择去哪个桶
作者: 大山猫    时间: 2012-11-18 16:38
谜团 发表于 2012-1-17 10:23 / w1 _$ O  {: _" e( p5 s& J
把任务分散我觉得比较好7 H4 H; a& a& M& k" z: O, w: r% ]- `* p8 e
分成100个桶
) O' Y4 l0 ]! f& x/ p. U每个桶里一定票
; M: ], L9 {7 e+ V9 s. {& {0 ]# U
这肯定不行,会有人编程序同时选这一百个桶




欢迎光临 爱吱声 (http://www.aswetalk.net/bbs/) Powered by Discuz! X3.2