爱吱声

标题: 谈谈大型网站架构的一些关键技术 [打印本页]
作者: 季侯    时间: 2012-1-17 10:11
标题: 谈谈大型网站架构的一些关键技术
想进黑虎帮，没积分啊，发点贴
0 M8 b& D. I7 _: x8 V7 H4 i; V/ R) d5 O
* s) j9 }: u0 \7 }- w+ k
最近12306很火，无数人站出来为铁道部指点迷津，提出了无数个解决方案。虽然很多人没做过网站也没写过程序，，，，，7 S0 o7 W" ]$ [' L! R  s; J

/ p1 X- a, B- W' j) A% Y8 J0 e$ H( n2 [乘罗教主还没空，我也凑个热闹，说说网站架构的一些东东。当然了，纯技术的东东可能没人喜欢，所以我保留随时挖坑不填的权力。. ]2 |# k6 d- V
2 g! C) \1 c3 k5 U. V
1 先说说cache
' k: o( t+ P0 [. |) b0 I
) s' F$ L( u  D  w
( ]. a6 i5 p  }$ l1 z: z作为一个老军医，总有人问我，“xxx，帮我看看，为啥我这系统性能这么差？” 我的第一个反应就是，瓶颈在哪里，cache怎么做的。
5 M0 _: v  o' i/ E) o% H# ~3 P, c- M3 ^  z% k
常有人说，木桶的容量是最短的那块木板决定的；那么如果把一个网站当作一个木桶，网站开发者这个桶匠绝对是个杯具。因为他拿到的木板太参差不齐了，有的长有上百米，有的才几公分。
) W: Y( n* G! \8 g% B8 L4 m) M" ]- f8 n# N$ y2 F  ~9 w
这块最短的木板往往就是数据库了，以12306为例，常见的使用场景是：2 K  s$ \3 K; M- x* `9 v: E

  J  i" q3 J: s. Q0 u" L) b. I用户登录上来，根据出发地和目的地查询车次，然后选择 一个有票的车次买票，下订单，付款。  ]  F3 R2 q( ~) q

1 \: d) L$ [% t不管是登录／查询车次／查询是否有票／下订单／付款都涉及数据库操作，是一个典型的读多写少的场景，数据库将会是瓶颈。那么为什么数据库会是瓶颈哪？, d- |5 G! I2 W' ]7 G; U
& `  Z; K$ h7 c! s
1 数据库操作相对web层是一个非常耗时的操作，单次操作往往需要几毫秒，并发链接数也只有3000／4000；而nginx之类的静态服务器，每秒处理10万个请求，支持数万个并发链接无压力；所以只要稍微大一点的网站，数据库很容易成为瓶颈；
) w8 f+ E8 h8 }4 l1 Y8 Q/ T4 p3 Y( |+ r( m9 r  s2 e2 ~
2. 数据库链接是一个非常昂贵的资源，一般来说单台mysql服务器能够只能提供3000／4000的并发链接;一旦大量web请求到来，那么很有可能申请不到数据库链接，不得不排队；当队列中的请求累计到一定数量时，新的请求很容易超时，从而失败。
0 m5 G0 Z6 d2 |: X+ l% f- a; p6 K$ |# d' M) d" I
3. 查询操作太多，基本上每买一张票都会查询很多次，而每次查询都会产生数据库查询操作。虽然可以通过建立合适的索引加快查询，通过读写分离／水平分库等手段降低单个数据库的负荷，但是只要数据库操作数量大到一定程度，那么唯一的办法就是减少数据库操作。
  Y  P  H9 H% h; c3 S9 `9 t* p7 v- N7 b( |) ~. ^  d3 E! u7 {
将一些很少变化，但是频繁查询的数据缓存到memcached/redis等缓存服务器中是一种成熟有效的技术。以根据出发地／目的地查询为例，以往的查询需要从数据库的车次站点表中查询，现在可以把{出发地／目的地}-> [车次列表]的映射关系存到redis中，这样每次查询的时候直接从redis中就可以得到。
+ {4 l7 ]4 n$ H
! R' a2 L# C  X+ o, T  |! w; `& |; e- L这么做的好处是，从redis中查询比从数据库中查询要快的多，相差不止一个数量级，redis能支持的并发链接数也远远超过mysql；所以能够降低了数据库负荷，也避免了数据库链接资源的申请。
  W0 s$ Q% Z0 d# x+ d+ M; D+ v7 Y2 P8 N$ Y% S: w
所以采用合理的cache技术，降低数据库负荷是大型网站架构的一个关键技术点。
7 T2 b1 U7 a) e, X+ ^: Z6 K
作者: 谜团    时间: 2012-1-17 10:23
把任务分散我觉得比较好/ {2 n/ y6 n& X+ z
分成100个桶
8 P3 _9 d' k! P3 ?! N4 _2 z每个桶里一定票
2 X/ L. q' i1 S5 g: p3 R! |7 n( a% M用户自行选择去哪个桶
作者: 大山猫    时间: 2012-11-18 16:38
谜团 发表于 2012-1-17 10:23 1 W6 n& W- v, j. _) W, c
把任务分散我觉得比较好/ _, B( B, {7 x& F& [
分成100个桶
; q/ H& s2 H  n2 {  K3 e* j2 C每个桶里一定票
, Q  S; {" @* `' \4 O
这肯定不行，会有人编程序同时选这一百个桶



欢迎光临 爱吱声 (http://www.aswetalk.net/bbs/) Powered by Discuz! X3.2