jackei 发表于 2007-10-7 12:14:13

资料收集:高并发 高性能 高扩展性 Web 2.0 站点架构设计及优化策略

<div class="postbody"><dl><dt>最近专门花时间研究了一下高并发 高性能 高扩展性 Web 2.0 站点架构设计及优化策略,发现了很多不错的资料,继续跟大家分享。——对于期望在大型网络应用的性能测试和性能优化方面获得提高的朋友们来说,尤其应该认真看看。^_^</dt><dd><br>
</dd><dt><br>
</dt><dt><a href="http://www.toplee.com/blog/71.html" add_date="1191145132" last_visit="1191683918" icon="data:image/x-icon;base64,AAABAAEAEBAAAAEACABoBQAAFgAAACgAAAAQAAAAIAAAAAEACAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAACAAACAAAAAgIAAgAAAAIAAgACAgAAAwMDAAMDcwADwyqYAMwAABAAAMwQzADMEMzMABBYWFgQcHBwEIiIiBCkpKQRVVVUETU1NBEJCQgQ5OTkEgHz/BFBQ/wSTANYE/+zMBMbW7wTW5+cEkKmtBAD/MwQAAGYEAACZBAAAzAQAMwAEADMzBAAzZgQAM5kEADPMBAAz/wQAZgAEAGYzBABmZgQAZpkEAGbMBABm/wQAmQAEAJkzBACZZgQAmZkEAJnMBACZ/wQAzAAEAMwzBADMZgQAzJkEAMzMBADM/wQA/2YEAP+ZBAD/zAQz/wAE/wAzBDMAZgQzAJkEMwDMBDMA/wT/MwAEMzMzBDMzZgQzM5kEMzPMBDMz/wQzZgAEM2YzBDNmZgQzZpkEM2bMBDNm/wQzmQAEM5kzBDOZZgQzmZkEM5nMBDOZ/wQzzAAEM8wzBDPMZgQzzJkEM8zMBDPM/wQz/zMEM/9mBDP/mQQz/8wEM///BGYAAARmADMEZgBmBGYAmQRmAMwEZgD/BGYzAARmMzMEZjNmBGYzmQRmM8wEZjP/BGZmAARmZjMEZmZmBGZmmQRmZswEZpkABGaZMwRmmWYEZpmZBGaZzARmmf8EZswABGbMMwRmzJkEZszMBGbM/wRm/wAEZv8zBGb/mQRm/8wEzAD/BP8AzASZmQAEmTOZBJkAmQSZAMwEmQAABJkzMwSZAGYEmTPMBJkA/wSZZgAEmWYzBJkzZgSZZpkEmWbMBJkz/wSZmTMEmZlmBJmZmQSZmcwEmZn/BJnMAASZzDMEZsxmBJnMmQSZzMwEmcz/BJn/AASZ/zMEmcxmBJn/mQSZ/8wEmf//BMwAAASZADMEzABmBMwAmQTMAMwEmTMABMwzMwTMM2YEzDOZBMwzzATMM/8EzGYABMxmMwSZZmYEzGaZBMxmzASZZv8EzJkABMyZMwTMmWYEzJmZBMyZzATMmf8EzMwABMzMMwTMzGYEzMyZBMzMzATMzP8EzP8ABMz/MwSZ/2YEzP+ZBMz/zATM//8EzAAzBP8AZgT/AJkEzDMABP8zMwT/M2YE/zOZBP8zzAT/M/8E/2YABP9mMwTMZmYE/2aZBP9mzATMZv8E/5kABP+ZMwT/mWYE/5mZBP+ZzAT/mf8E/8wABP/MMwT/zGYE/8yZBP/MzAT/zP8E//8zBMz/ZgT//5kE///MBGZm/wRm/2YEZv//BP9mZgT/Zv8E//9mBCEApQRfX18Ed3d3BIaGhgSWlpYEy8vLBLKysgTX19cE3d3dBOPj4wTq6uoE8fHxBPj4+ATw+/8ApKCgAICAgAAAAP8AAP8AAAD//wD/AAAA/wD/AP//AAD///8AAAAAAAAAAAAAAAAAAAAAAAAAAAAA7Pf37+8HAAAAAAAAAAAAB+/v7+/v7+/3AAAAAAAABwfv7wcHB+8H7wcAAAAABwcHBwcAAOoHBwcHAAAAAPEHvPAA8PDqbby88PEAABLw8fDwAPDx8Q7w8fDwAAAH8vHy8vcPBwDz8vLx8gAAB/Py8/P0DvcA8vPy8vMAAG3z9PT/D/T0APTz9PT0AAAA8//09P8A6gD/9P/09AAAAPPz//T09P////T08wAADg8O9PP////09PTz8w4PDhERDxH09P//////9A4VEREUFBQVFEPv//TwFUMUFBQUEhISEhISEhISEhISEhISEgAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA=" last_charset="UTF-8" id="rdf:#$2IbjV1">» 说说大型高并发高负载网站的系统架构 俊麟 Michael`s blog</a>
</dt><dt><a href="http://www.example.net.cn/2006/01/bind_dlz.html" add_date="1191724288" last_charset="UTF-8" id="rdf:#$Iywor1">bind dlz - 分布式系统的请求分发工具: 一个藏袍</a>
</dt><dd>bind dlz - 分布式系统的请求分发工具 bind dlz全称是bind dynamic loadable
zones,是基于bind的提供的一个组件,作用看名字就知道了,支持动态域加载支持。
bind已经有很久的历史,目前是搭建DNS服务器的首选。对于一般网站来说,一个标准的bind已经完全可以完成所有dns解决的工作,但在海量域名数
量的情况下,bind也确实存在着一些问题: 1、域名解析信息全部存储在文本文件中,这非常容易导致由于编辑出错导致的域名解析出错。
2、bind运行时将全部的解析信息放在内存里,如果数量巨大将可能出现内存不足的情况,同时解析信息重新加载时所耗费的时间也非常值得考虑,由于加载时
间较长,所以基本可以不考虑动态的进行域名的调整。
dlz就是为了解决这个问题而针对bind开发的组件,可以将域名解析信息放在数据库中,从而避免域名信息变动时重新加载的时间,在变动后马上生效。
dlz支持多种数据存储形式,包括文件系统,Berkeley-DB,Postgre-SQL,MySQL,ODBC,LDAP等等。性能的比较在这里。
bind
dlz这种提供动态的域名调整,并且仍然可以提供高性能的dns解析服务的特点可以应用于提供二级或三级域名服务的分布式系统的前端,对不同的域名解析到
所在服务器组上,从而实现可扩展的系统架构。... </dd><dt><a href="http://www.dbanotes.net/database/craigslist_database_arch.html" add_date="1191727631" last_charset="UTF-8" id="rdf:#$lAwor1">Craigslist 的数据库架构 - DBA notes</a>
</dt><dt><a href="http://live.csdn.net/Issue234/LivePlay.aspx" add_date="1191145348" last_charset="UTF-8" id="rdf:#$6IbjV1">CSDN视频:CSDN SD俱乐部与钱宏武探讨如何设计高并发体系架构</a>
</dt><dd>CSDN视频频道
</dd><dt><a href="http://www.dbanotes.net/web/flickr_web_tech.html" add_date="1191727602" last_charset="UTF-8" id="rdf:#$kAwor1">Flickr 的开发者的 Web 应用优化技巧 - DBA notes</a>
</dt><dt><a href="http://www.dbanotes.net/opensource/youtube_web_arch.html" add_date="1191727329" last_charset="UTF-8" id="rdf:#$iAwor1">YouTube 的架构扩展 - DBA notes</a>
</dt><dt><a href="http://www.dbanotes.net/web/technorati_db_arch.html" add_date="1191727338" last_visit="1191727458" icon="data:image/x-icon;base64,AAABAAEAEBAAAAAAAABoBQAAFgAAACgAAAAQAAAAIAAAAAEACAAAAAAAQAEAAAAAAAAAAAAAAAAAAAAAAAAAAAAA////AICAgABBQUEAwcHBACAgIADg4OAAYWFhAJ6engAwMDAADw8PAHFxcQDS0tIArKysAOzs7ABVVVUAjIyMAEtLSwD29vYAuLi4AJaWlgAICAgA2dnZADo6OgClpaUAaGhoAHl5eQAVFRUA5ubmACYmJgAaGhoAzc3NAEZGRgBcXFwA+vr6AAQEBAAqKioANDQ0AL29vQBtbW0AhISEAOnp6QALCwsA4+PjABISEgDc3NwAHR0dAC0tLQDExMQAPT09ALW1tQCoqKgAWFhYAJmZmQCTk5MAZGRkAHR0dAB9fX0A/Pz8AAICAgD09PQADQ0NACIiIgDPz88AJCQkALu7uwBDQ0MAXl5eAGZmZgCKiooAdnZ2AHt7ewD+/v4A+fn5AAEBAQD19fUAAwMDAAUFBQDq6uoACQkJAAoKCgDo6OgA5+fnAA4ODgDi4uIAERERABMTEwDf398A29vbANra2gAbGxsAHh4eAB8fHwAhISEAJSUlALy8vAA7OzsAPDw8AD4+PgBCQkIAp6enAEVFRQBKSkoAnZ2dAJeXlwBWVlYAXV1dAGJiYgBjY2MAfn5+AHp6egBwcHAAd3d3AHNzcwAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAASAEpJQAuUwAAACMqAGUBATpkLzsjVVpjCQAAOwAbaiYpbhUATG9ZAQEIUABKTQBGUldAACAGAT9ocVoASgAAaxw3PTsYUTIzbFAVO0pKSh0pY00FVAFSFkcRaUwAAEoeWGI7RAEBUQ1qJh8sAExMXARgTGcBAQErNlFLOD1KFT5LExsZFDMOSBAMRUJWAE8YSAFEZhldMVI3CgAATABQLUgBD288LVgiMDkHD1UAAEFISBcXLQEBAQEBAQJKAApUSAEhU1s0RygaQ14ATABwAUgBZ1UqABU7AAAAAAADSQFIAQE1JFMPYU1QHiVHEgEBAQEBAV9uC28nbQROAQFIAQAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA=" last_charset="UTF-8" id="rdf:#$jAwor1">了解一下 Technorati 的后台数据库架构 - DBA notes</a>
</dt><dt><a href="http://www.example.net.cn/archives/2006/03/olivejournaloio.html" add_date="1191723647" last_charset="GB2312" id="rdf:#$Eywor1">从LiveJournal后台发展看大规模网站性能优化方法: 一个藏袍</a>
</dt><dd>从LiveJournal后台发展看大规模网站性能优化方法 于敦德 2006-3-16 一、LiveJournal发展历程
LiveJournal是99年始于校园中的项目,几个人出于爱好做了这样一个应用,以实现以下功能:
博客,论坛社会性网络,找到朋友聚合,把朋友的文章聚合在一起 LiveJournal采用了大量的开源软件,甚至它本身也是一个开源软件。
在上线后,LiveJournal实现了非常快速的增长:
2004年4月份:280万注册用户。2005年4月份:680万注册用户。2005年8月份:790万注册用户。达到了每秒钟上千次的页面请求及处理。
使用了大量MySQL服务器。使用了大量通用组件。 二、LiveJournal架构现状概况 三、从LiveJournal发展中学习
LiveJournal从1台服务器发展到100台服务器,这其中经历了无数的伤痛,但同时也摸索出了解决这些问题的方法,通过对LiveJournal
的学习,可以让我们避免LJ曾经犯过的错误,并且从一开始就对系统进行良好的设计,以避免后期的痛苦。 下面我们一步一步看LJ发展的脚步。... </dd><dt><a href="http://www.example.net.cn/2006/01/memcached.html" add_date="1191724254" last_charset="UTF-8" id="rdf:#$Hywor1">使用memcached进行内存缓存: 一个藏袍</a>
</dt><dd>使用memcached进行内存缓存 旧文重发 2005.8.9
通常的网页缓存方式有动态缓存和静态缓存等几种,在ASP.NET中已经可以实现对页面局部进行缓存,而使用memcached的缓存比ASP.NET的
局部缓存更加灵活,可以缓存任意的对象,不管是否在页面上输出。而memcached最大的优点是可以分布式的部署,这对于大规模应用来说也是必不可少的
要求。
LiveJournal.com使用了memcached在前端进行缓存,取得了良好的效果,而像wikipedia,sourceforge等也采用了
或即将采用memcached作为缓存工具。memcached可以大规模网站应用发挥巨大的作用。... </dd><dt><a href="http://www.example.net.cn/2006/06/open_source_high_performance.html" add_date="1191723874" last_charset="UTF-8" id="rdf:#$Gywor1">使用开源软件,设计高性能可扩展网站: 一个藏袍</a>
</dt><dd>使用开源软件,设计高性能可扩展网站 2006-6-17 于敦德
上次我们以LiveJournal为例详细分析了一个小网站在一步一步的发展成为大规模的网站中性能优化的方案,以解决在发展中由于负载增长而引起的性能
问题,同时在设计网站架构的时候就从根本上避免或者解决这些问题。
今天我们来看一下在网站的设计上一些通常使用的解决大规模访问,高负载的方法。我们将主要涉及到以下几方面: 1、 前端负载 2、 业务逻辑层 3、
数据层
在LJ性能优化文章中我们提到对服务器分组是解决负载问题,实现无限扩展的解决方案。通常中我们会采用类似LDAP的方案来解决,这在邮件的服务器以及个
人网站,博客的应用中都有使用,在Windows下面有类似的Active
Directory解决方案。有的应用(例如博客或者个人网页)会要求在二级域名解析的时候就将用户定位到所属的服务器群组,这个时候请求还没到应用上
面,我们需要在DNS里解决这个问题。这个时候可以用到一款软件bind
dlz,这是bind的一个插件,用于取代bind的文本解析配置文件。它支持包括LDAP,BDB在内的多种数据存储方式,可以比较好的解决这个问题。
另外一种涉及到DNS的问题就是目前普遍存在的南北互联互通的问题,通过bind9内置的视图功能可以根据不同的IP来源解析出不同的结果,从而将南方的
用户解析到南方的服务器,北方的用户解析到北方的服务器。这个过程中会碰到两个问题,一是取得南北IP的分布列表,二是保证南北服务器之间的通讯顺畅。第
一个问题有个笨办法解决,从日志里取出所有的访问者IP,写一个脚本,从南北的服务器分别ping回去,然后分析结果,可以得到一个大致准确的列表,当然
最好的办法还是直到从运营商那里拿到这份列表(update:参见这篇文章)。后一个问题解决办法比较多,最好的办法就是租用双线机房,同一台机器,双
IP,南北同时接入,差一些的办法就是南北各自找机房,通过大量的测试找出中间通讯顺畅的两个机房,后一种通常来说成本较低,但效果较差,维护不便。
另外DNS负载均衡也是广泛使用的一种负载均衡方法,通过并列的多条A记录将访问随即的分布到多台前端服务器上,这种通常使用在静态页面居多的应用上,几
大门户内容部分的前端很多都是用的这种方法。
用户被定位到正确的服务器群组后,应用程序就接手用户的请求,并开始沿着定义好的业务逻辑进行处理。这些请求主要包括两类静态文件(图片,js脚本,
css等),动态请求。
静态请求一般使用squid进行缓存处理,可以根据应用的规模采用不同的缓存配置方案,可以是一级缓存,也可以是多级缓存,一般情况下cache的命中率
可以达到70%左右,能够比较有效的提升服务器处理能力。Apache的deflate模块可以压缩传输数据,提高速度,2.0版本以后的cache模块
也内置实现磁盘和内存的缓存,而不必要一定做反向代理。
动态请求目前一般有两种处理方式,一种是静态化,在页面发生变化时重新静态页面,现在大量的CMS,BBS都采用这种方案,加上cache,可以提供较快
的访问速度。这种通常是写操作较少的应用比较适合的解决方案。
另一种解决办法是动态缓存,所有的访问都仍然通过应用处理,只是应用处理的时候会更多的使用内存,而不是数据库。通常访问数据库的操作是极慢的,而访问内
存的操作很快,至少是一个数量级的差距,使用memcached可以实现这一解决方案,做的好的memcache甚至可以达到90%以上的缓存命中率。
10年前我用的还是2M的内存,那时的一本杂事上曾经风趣的描述一对父子的对话: 儿子:爸爸,我想要1G的内存。
爸爸:儿子,不行,即使是你过生日也不行。
时至今日,大内存的成本已经完全可以承受。Google使用了大量的PC机建立集群用于数据处理,而我一直觉得,使用大内存PC可以很低成本的解决前端甚
至中间的负载问题。由于PC硬盘寿命比较短,速度比较慢,CPU也稍慢,用于做web前端既便宜,又能充分发挥大内存的优势,而且坏了的话只需要替换即
可,不存在数据的迁移问题。
下面就是应用的设计。应用在设计的时候应当尽量的设计成支持可扩展的数据库设计,数据库可以动态的添加,同时支持内存缓存,这样的成本是最低的。另外一种
应用设计的方法是采用中间件,例如ICE。这种方案的优点是前端应用可以设计的相对简单,数据层对于前端应用透明,由ICE提供,数据库分布式的设计在后
端实现,使用ICE封装后给前端应用使用,这路设计对每一部分设计的要求较低,将业务更好的分层,但由于引入了中间件,分了更多层,实现起来成本也相对较
高。
在数据库的设计上一方面可以使用集群,一方面进行分组。同时在细节上将数据库优化的原则尽量应用,数据库结构和数据层应用在设计上尽量避免临时表的创建、
死锁的产生。数据库优化的原则在网上比较常见,多google一下就能解决问题。在数据库的选择上可以根据自己的习惯选择,Oracle,MySQL等,
并非Oracle就够解决所有的问题,也并非MySQL就代表小应用,合适的就是最好的。
前面讲的都是基于软件的性能设计方案,实际上硬件的良好搭配使用也可以有效的降低时间成本,以及开发维护成本,只是在这里我们不再展开。
网站架构的设计是一个整体的工程,在设计的时候需要考虑到性能,可括展性,硬件成本,时间成本等等,如何根据业务的定位,资金,时间,人员的条件设计合适
的方案是件比较困难的事情,但多想多实践,终究会建立一套适合自己的网站设计理念,用于指导网站的设计工作,为网站的发展奠定良好的基础。... </dd><dt><a href="http://www.example.net.cn/2006/09/startup_and_opensource.html" add_date="1191723766" last_charset="UTF-8" id="rdf:#$Fywor1">初创网站与开源软件: 一个藏袍</a>
</dt><dd>初创网站与开源软件
前面有一篇文章中提到过开源软件,不过主要是在系统运维的角度去讲的,主要分析一些系统级的开源软件(例如bind,memcached),这里我们讨论
的是用于搭建初创网站应用的开源软件(例如phpbb,phparticle),运行在Linux,MySQL,Apache,PHP,Java等下面。
创业期的网站往往采用比较简单的系统架构,或者是直接使用比较成熟的开源软件。使用开源软件的好处是搭建速度快,基本不需要开发,买个空间域名,下个软件
一搭建,用个半天就搞定了,一个崭新的网站就开张了,在前期可以极大程度的节约时间成本和开发成本。
当然使用开源软件搭建应用也存在一些局限性,这是我们要重点研究的,而研究的目的就是如何在开源软件选型时以及接下来的维护过程中尽量避免。
一方面是开源软件一般只有在比较成熟的领域才有,如果是一些创新型的项目很难找到合适的开源软件,这个时候没什么好的解决办法,如果非要用开源的话一般会
找一个最相似的改一下。实际上目前开源的项目也比较多了,在sf.net上可以找到各种各样的开源项目。选型的时候尽量应该选取一个程序架构比较简单的,
不一定越简单越好,但一定要简单,一目了然,别用什么太高级的特性,互联网应用项目不需要太复杂的框架。原因有两个,一个是框架复杂无非是为了实现更好的
可扩展性和更清晰的层次,而我们正在做的互联网应用范围一般会比开源软件设计时所考虑的范围小的多,所以有的应用会显得设计过度,另外追求完美的层次划分
导致的太复杂的继承派生关系也会影响到整个系统维护的工作量。建议应用只需要包含三个层就可以了,数据(实体)层,业务逻辑层,表现层。太复杂的设计容易
降低开发效率,提高维护成本,在出现性能问题或者突发事件的时候也不容易找到原因。
另外一个问题是开源软件的后期维护和继续开发可能会存在问题,这一点不是绝对的,取决于开源软件的架构是否清晰合理,扩展性好,如果是较小的改动可能一般
不会存在什么问题,例如添加一项用户属性或者文章属性,但有些需求可能就不是很容易实现了。例如网站发展到一定阶段后可能会考虑扩展产品线,原来只提供一
个论坛加上cms,现在要再加上商城,那用户系统就会有问题,如何解决这个问题已经不仅仅是改一下论坛或者cms就可以解决了,这个时候我们需要上升到更
高的层次来考虑问题,是否需要建立针对整个网站的用户认证系统,实现单点登录,用户可以在产品间无缝切换而且保持登录状态。由于网站初始的用户数据可能大
部分都存放在论坛里,这个时候我们需要把用户数据独立出来就会碰到麻烦,如何既能把用户数据独立出来又不影响论坛原有系统的继续运行会是件很头痛的事情。
经过一段时间的运行,除非是特别好的设计以及比较好的维护,一般都会在论坛里存在各种各样乱七八糟的对用户信息的调用,而且是直接针对数据库的,这样如果
要将用户数据移走的话要修改代码的工作量将不容忽视,而另外一个解决办法是复制一份用户数据出来,以新的用户数据库为主,论坛里的用户数据通过同步或异步
的机制实现同步。最好的解决办法就是在选型时选一个数据层封装的比较好的,sql代码不要到处飞的软件,然后在维护的时候保持系统原有的优良风格,把所有
涉及到数据库的操作都放到数据层或者实体层里,这样无论对数据进行什么扩展,代码修改起来都比较方便,基本不会对上层的代码产生影响。
网站访问速度问题对初创网站来说一般考虑的比较少,买个空间或者托管服务器,搭建好应用后基本上就开始运转了,只有到真正面临极大的速度访问瓶颈后才会真
正对这个问题产生重视。实际上在从网站的开始阶段开始,速度问题就会一直存在,并且会随着网站的发展也不断演进。一个网站最基本的要求,就是有比较快的访
问速度,没有速度,再好的内容或服务也出不来。所以,访问速度在网站初创的时候就需要考虑,无论是采用开源软件还是自己开发都需要注意,数据层尽量能够正
确,高效的使用SQL。SQL包含的语法比较复杂,实现同样一个效果如果考虑到应用层的的不同实现方法,可能有好几种方法,但里面只有一种是最高效的,而
通常情况下,高效的SQL一般是那个最简单的SQL。在初期这个问题可能不是特别明显,当访问量大起来以后,这个可能成为最主要的性能瓶颈,各种杂乱无章
的SQL会让人看的疯掉。当然前期没注意的话后期也有解决办法,只不过可能不会解决的特别彻底,但还是要吧非常有效的提升性能。看MySQL的
SlowQuery
Log是一个最为简便的方法,把执行时间超过1秒的查询记录下来,然后分析,把该加的索引加上,该简单的SQL简化。另外也可以通过
Showprocesslist查看当前数据库服务器的死锁进程,从而锁定导致问题的SQL语句。另外在数据库配置文件上可以做一些优化,也可以很好的提
升性能,这些文章在网站也比较多,这里就不展开。
这些工作都做了以后,下面数据库如果再出现性能问题就需要考虑多台服务器了,一台服务器已经解决不了问题了,我以前的文章中也提到过,这里也不再展开。
其它解决速度问题的办法就不仅仅是在应用里面就可以实现的了,需要从更高的高度去设计系统,考虑到服务器,网络的架构,以及各种系统级应用软件的配合,这
里也不再展开。
良好设计并实现的应用+中间件+良好的分布式设计的数据库+良好的系统配置+良好的服务器/网络结构,就可以支撑起一个较大规模的网站了,加上前面的几篇
文章,一个小网站发展到大网站的过程基本上就齐了。这个过程会是一个充满艰辛和乐趣的过程,也是一个可以逐渐过渡的过程,主动出击,提前考虑,减少救火可
以让这个过程轻松一些。... </dd><dt><a href="http://blog.csdn.net/jim_yeejee/archive/2007/07/18/1697363.aspx" add_date="1191723519" last_charset="UTF-8" id="rdf:#$Dywor1">大型web2.0互动网站设计方案 - jim_yeejee的专栏 - CSDNBlog</a>
</dt><dd>大型SNS 互动网站实现方案,大型web2.0互动网站实现方案
</dd><dt><a href="http://blog.csdn.net/guxianga/archive/2007/09/19/1791131.aspx" add_date="1191145276" last_visit="1191727795" icon="data:image/x-icon;base64,AAABAAEAEBAAAAEAGABoAwAAFgAAACgAAAAQAAAAIAAAAAEAGAAAAAAAQAMAAAAAAAAAAAAAAAAAAAAAAADd2+3h4Ovr6+74+Pj39vb5+ff6+vnl5ejR0dTu7e74+Pj4+Pf6+vj39/fg4N/Pz9Dl5PPu7v3+/v/////////4+f/j4+bi4tbr6+P8/P3+//7+///19fzd3d3b29vn5+b4+Pf////////9/f3MwcHOxcvg3t+Wleeysezw8Orm4+Xg3d3s7Pfh4PH////4+Pj39/f+/v/9/f3///+/rKy6paXx591cW+eHhur/+uzi2dzd1tbx8fr8/P/////29vf29vf////////8/P3l3+G2oaPf0cmbltCtptTm2tHJurzx7+7////y8vHs6+74+Pj4+ff8/Pzk5OTT09T3+PnYzc7Rv7rGus3JvMzTw77f2Nr39/rg397Ozs7u7u/5+fnq6vbi4uXc29zu7u7//////v3R0NSmrduutdvS0dLs6/Xr6vfe3ub7+/v////39/fe3vHn5/r8+//////09Pi3z+ytzve92vvC3fu/2vnC0ePm5Oz3+P/////////4+Pnx8fX7+v7////9/P+51fqRvvGszfez2f+34v+65P+y3//H3fH///3////t7e7Z2Nv5+ff////+///48/OVh56UvO6f1f+bteCPgZuHdI+BfaKYnrzx7/Lf39/V1NXi4eH29vf////////59veWQDigaW2ipr6fXlyWOC2GMjFvIShqLzvr6/Xf3+7////6+vr5+fnv7+/c293+///ew7/CfXHRlYrRmpDJlpG7i4qaZ2vFsLXz9P/59//////t7e/Y2NfW1tbn5+b////8/v/dzsvZurfXtLDTr6vLrKvezs////////329vTZ2dnT09TV1eb+/v7////z8vzq6ffe4ef4+Pjz6+rz7Ov////////19fvt7fjX19ro6Ojw8O/y8vn////////29v7o5/vx8P7////////////w8PHu7u/08/7m5vvt7Pz////5+fny8vD4+Pj4+Pj5+fj29vf5+ff39/fy8fHZ2dnJyMnr6+r5+fjw8Pb39/f39/fw8PAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA" last_charset="UTF-8" id="rdf:#$5IbjV1">大型Web2.0站点构建技术初探 - guxianga - CSDNBlog</a>
</dt><dd>缓存区还为那些不需要记入数据库的数据提供了驿站,比如为跟踪用户会话而创建的临时文件--Benedetto坦言他需要在这方面补课,
</dd><dt><a href="http://www.fulin.org/paper/paper.html" add_date="1191727095" last_visit="1191728098" icon="data:image/x-icon;base64,AAABAAIAEBAAAAAAAABoBQAAJgAAACAgAAAAAAAAqAgAAI4FAAAoAAAAEAAAACAAAAABAAgAAAAAAEABAAAAAAAAAAAAAAAAAAAAAAAAAAAAAP///wBWj5kAOkRHALS2uAAqem0AZWNjAJCQkAAcJyoAz9TWAHF8gQB0qJ8AQFxkAEx3dwCap6QAPJCDAClshgAkRlMAMTIyAE9OTgBpkYoAU5GBACuDigDMxsUAU2RsAISCggA+b2gANVRQAF5xeAA4f3gAYYR+AG5ubgCvq6sAW5yQAERkcwB5h40ATlZcACmPggA1bH4ASJeIAEBJUwBEhnsALk9bADs8PACnpKMAR0ZGAEtvagB8e3oAVYOCACQtMQAthH4AhYqLAFR2gABBdHoAPFxZADZ1bgBLX2UAOYWDACYlJQBjbG4AXXx3AJOXmABMbHQAdHR0AERVXQBKfn4AVlZWADhSWQAsNjkAlqCfAGp3fQB5gIQAn6ChAFCUiwA4jXwAWZKHAEtmbgBbZm4ALXVzAHGQjAA/Z2YAUYl+ADlNUgBAUFgAUH52AFBxewBGkIUAK0pWAKOppwA2NjYAcnh6ADVGTABjfX8AMol/AEhbYAA5hngARGNsAD2BfwAqMjQAQ5mEADx3bgCpqqoAh4eGAHyFiABMWVcAWZmLAD5fXgAygYAAQ2JmAElkaABGeHYASXRtAIuLiwA3WFQAXIF9AIB/fwB1g4cAPZB8AHd4dwA6SU4AOn1zAEpUWABPmY0AaW1sAHeknQA7VFUAb3R2AIGGiQA2ioIAQYJ6AFVzfAB1fH4AQllfAElocgBdanAALjAvAEReYwBCbmYAZG5yAF1vdABPX2cAR29oAD89PQB1gYMAbnd7AJqfnwCMj5AAOVtWAEBbWQBte4EAYH55AFF0fgBObncAW3l1AHGAgQCkpaUAQkxSAD1RVgA7joAAQl9oAE5kbQA7UFIAQ05YAFBWWQBHfH4A/f39ADxHUABOanIAp6amADtMTwBHU1kAen+BAENbYgBxd30AcXNzAEhjawAhLTIAiIuMADKIfABihIEAlZaWADRESgB5hYgAP11bAHiChgA3hoEAS2lwAIOGhwA9U1gASltiADOHfgBDV14AR1lhAHh5eQBze4AAcH6CAKOnqAB7gYQAQl1jAHR4eQBzc3IAS2htAEZ2dwBRcn0Ac3t+AP7+/gCgoaIAmaCgAEhHRwA7Sk8Ah4qNAG14fABreH4AP1xjAHt7ewBCYGkATGZvAJ+hoQCQkJEAh4eHAC2EfwBLX2YAdHt+AHJzcwBRdH8AAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAACvl+CFn0OdA0TVXyVdObkAhMY+y1UMUlsRV2xrFgVOANiIbac0mLwmECpANdwyvgCkYL9eOEzXw7RitbodsoAAnmHKyd29rAnNjrCgbkoPAGQ3eIFBgsAEpSt3jA11YwBqGxopVklQGRcIi00wJ3oAt3GJb1RRFQIieUZcIWlLADaTjS6ZPBR9MY+2fAuzcgChlB6WaBKuLYcO2ZHPmk8AqTtYRXs60BNZdmXOqKvEANF+ICzOxwYfQtubPdKtSACmo7tnxTOxcAfakn8KwkcAKJyqGBzMWnPWwYPMkNO4AKIkhlOKZi8/38jedJXUIwAAAAAAAAAAAAAAAAAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAAD//wAAKAAAACAAAABAAAAAAQAIAAAAAACABAAAAAAAAAAAAAAAAAAAAAAAAAAAAAD///8AQpKoALm1swBIR0YAh4eGACR2bwBAtt4AICQlAHS1pwDd3d0AXGluABtDUwBOjYEAmp6fADxiXABrmJIALYSQAGp+hQAuNTwAQW18AO7t7QAVExMAXFpZAM7PzwBYnqIAOIF2ADosKQAoUWEAcXJyAIqXlgA2UE4ApK6sAFabjQBMXGcAN4KfAFl+eAA4dGsAd4mOAEhxagBGVFgAPJGBAFCMlgCOracAMm+HACloZgBMm7QAYY+JACmMgQBzpp4AfX19ADpfbQAxiqsAPj4+AC5ncwAtQUcAKoNvAGVkZABKeXcAZqaZAPb29gAven4AmJeXADpTWgAmMDMAGRweAGdydwBagoUASGZvAObm5wA8Rk8AKYahAHiXkwBPcHkAL0pXAFddYwA3hooAo6WlADEyMgCOjY0Arq6uAD+DfQBEloAAaomDAE9PTwB8gYUAXHd/AEJ8cwBqbW0ALYx1AFR2cQArKioAQl1jANXW1gA5enoAi6WiAD5qagAyfHAAUWRqACd+dgBueHwAJUdVAE1cWwBjfnsANjc3ACBsYwC1ursANURIAJKamwBVh30API96AEZLTgA4WVUAL4R+AEiLiQAPDw8ARXF1ACyGmgBFbWcALHNxACeDhgBOlIQAMjxCADxSVABVVVUAQlZcAICLjwA1ZnkAdH6CAJSppQBXj4gATmtzAFZ6hAA3iHwALH1wADVITgBln5UAcoyIAEVhaQAzhqQAUFhfADJpbAAwg3gAOIN+AEN1bQC+ubcAPoqHAFJ0fQBjbnIAICsuAKmpqQBBT1cAXnh0AEBlYQBgiIwAX3mDAFSChAASGBoAX2BfAFqXiwBeZGgAXImCAEeHfABWbncAN01TAGh3fABRf3gABAQEAHd3eABFj4EA8vLyAB8eHgCfn58AiJCSAHaChwBQmIoAQHJ1AFRaWwA3bGUAP4F3AEJ9fgBPd3EAan58AOLi4gCTlpcAkpGQAE9XVQCCgoIAQlteADdlYQBccnoA+/v7AGdnZwBKa3QAK0xcAIeKiwBKW2EAapWOAHGFggA9h3kAPUdMAEpjagA9WWEAUWFmAG11dwBef3sAPTg1AD1DRwB3k48Aeo2LAFFeXwA2gHsASZKGAHV7fQBPhn0AYnd1AExnbgC0tLQAOEJLADRUUAAib2gANmBZAFGOhgBFa24AVmtyAD1xagBYZWoAkaCdAFOLggBQcm0AKEJLAJeZmgBMSksAPExQACp5dwBAj3sAO311AGRpawApNDgAOD5CAIGGhwB7hosARWhpAFd5dACeoqIAMkFFADxVWAAuZWYATFZaAEhfZQBBiYAAQ2t3AEmCegBKcXEAJ0xYAHOGjQAARElJk0nBRIpcyj8/pKTph4fKRMHsWVkwMIUhGSrerwBrP0RJwcFEilzKP6SHl8jIz5U3ymBhOHh4hgYG3GljAOmHXERJk0lERERcpIekl0AIQUFrimBhODiOd3d3LS0AyT/2fYrBk0lJScFcP4fpaO7mHP4/wbCOR3WGhoZ39wDYXFxc2IpESYSEScHKpD8UIyyLZUCKwex1EYaGjuqNAERcXFzJg9jYk4STwYqkygI0fyN6h1xEsI6OjhFxjmEASdjJ+cr5yfn52JODRIp7pDN6DOmkXNjBXo5xcY6OPQBR3/tEffZ9+WLLXERJRFwLkZEEnWvu+dh0Go6FhY7TACnsXnTYyVy8+cTE+cmDimoVCpZzQe5cyYPshYWFhY8AKRrHUbQ6g9jYyfnLy/ngRTwVGKun6fnYgzqFhYWF0wDHJRqPTMezOpOD2Pn5XAsBAb+3QXN9e/nY/W5ubm5uALOyJSUl7OyzUTpWm6P54hhdAV2nQGLExMFJ625u61IAYHDdD73hV7P6knKcm75rWKq/MgB9YgvL4JOpqfqp1ADy9h8fcJBXoqmp1NTemggXAaoWnVbL4mJWQ9TU1NTWAPL2H9sPkJD81g0NeXkh2+hFAwDEEgvMC5uCryEhr+QAmXtwcA+Qdna1pqbW3iFtNgfCcxISlJSlLyEhn5/k1gAPH3twDycndlrz5VqhiG2cLkpoJhLMpRA7O4ihJPNtAJkfcHCZtSd2Ws3zzRDF5bobzm9+rtXQCTExEM2YWqEAvB/bcHa1WuWYZ5hmsdHXCAAAmIEeHh5fXytIZ2fNLwD4h2t7JCSY89dvTqs1BQWeTggeIKxN9A6srB6ltlPFAGYf9SjQHtHGibpbW2g5OXw1aMxNrE2suE3n58xkrYEA0of1oFD052zjnltOaFRUBDVOaMCsTU30lk1NzFVN2QDS6fVYUE1NTU1Q7U5O6HwXBDU1u5ZNDqysUKxCVZbZAPjpesyWrKysrE1sw55UqB18BFS5TawOrcPDZGTVrFAA+EZ6WKznPj4+Pq7nrAUFBQVPrKw+Pri4VcxVVULV9ABGRmtvT/CAw/CAT8PDuU9PT09PT0+trfCurq6AZMyAAJdG2npvlEJJQuLVC0JkMru7u7u78PBV1dXMgMxk1dUAjMh6+JfvxEKjvoDwQkIyMjIyqNXV1dWAqMxkZGRk8QBL2hOx/33v7dhigFW7MjIyqKgdHR3MZIBkpUJCZGSuAIzaes8ylH03hx0FMqhYwMDAwMDAWEISZGSlQpSlQtUAIkbIRshL2CiM0h3VqB0dHR0dHaioqNWAEkKlQqVk/wAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAIAAAACAAAAAgAAAAP////8=" last_charset="UTF-8" id="rdf:#$hAwor1">高并发高流量网站架构</a>
</dt><dd>首先在整个网络的高度讨论了使用cdn,镜像,以及DNS区域解析等技术对负载均衡带来的便利及各自的优缺点比较。然后在局域网层次对
第四层交换技术,包括硬件解决方案F5和软件解决方案LVS,进行了探讨和比较。再次在在单服务器端,本文着重讨论了单台服务器的socket优化,硬盘
级缓存技术,内存级缓存技术,cpu与io平衡技术(即以运算为主的程序与以数据读写为主的程序搭配部署),读写分离技术等。在应用层,本文介绍了一些企
业常用的技术,以及选择使用该技术的理由。本文选取有代表性的网站服务器程序,数据库程序,数据表存储 </dd><dt><a href="http://blog.csdn.net/xmr_gxcfe/archive/2007/09/14/1785292.aspx" add_date="1191145263" last_charset="UTF-8" id="rdf:#$3IbjV1">高性能网站性能优化 - 人月 - CSDNBlog</a>
</dt><dd>网站负载均衡</dd></dl>
</div>

1qazse4 发表于 2007-10-9 18:31:54

真的太多谢版主拉!~!
学习。

jackei 发表于 2007-10-9 21:51:55

不客气 ^_^

jackei 发表于 2007-10-16 11:18:28

这么高档的东西,自己顶回去!

丁笑寒 发表于 2007-11-2 16:42:31

谢谢分享。

qhbqhb 发表于 2008-1-31 12:22:24

好东西。顶一个。。

liangjz 发表于 2008-3-1 22:13:23

受益了。
呵呵,架构性能评估师.... ?

zhyanwl 发表于 2008-10-8 23:47:28

刚刚接触,学习中,多谢了

judythw 发表于 2008-10-23 15:11:48

谢谢分享:)

qhbqhb 发表于 2008-11-6 10:28:31

好东西,学习中.

candy_83 发表于 2009-6-8 17:29:21

留爪

:lol

wangdali1979 发表于 2010-8-4 13:32:40

收藏了

he_jian 发表于 2011-1-20 15:41:59

多谢楼主

anna03 发表于 2011-2-9 16:32:39

谢谢分享

zllove881 发表于 2011-3-10 10:59:17

楼主真是太好了!

小de梦霞 发表于 2012-5-4 08:32:35

牛牛牛牛呀

lvqianghui605 发表于 2012-6-11 16:40:25

:)

lvqianghui605 发表于 2013-8-15 14:59:23

:victory:
页: [1]
查看完整版本: 资料收集:高并发 高性能 高扩展性 Web 2.0 站点架构设计及优化策略