高并发服务器：高并发服务器框架设计方案

　　【版权声明】本文部分内容来源于互联网,仅供参考!若有云服务器\物理机\VPS\专用服务器产品租用问题,请咨询[YINGSOO]在线客服,答疑解惑!

　　【热门产品】香港云服务器丨香港云vps

　　【精选文章】免备案香港服务器

　　简单谈一谈高并发服务器框架设计的基本思路

　　基本的服务器框架都是c/s结构的，请求和相应流程是这样的：

　　这样的框架存在一个很严重的问题，当客户端高并发请求到来，服务器需要进行大量的数据库操作，假设数据库最大连接数为

　　1000个，此时有10000个请求访问应用服务器，那么应用服务器只能处理1000个请求，剩下99000个等待1000个请求处理好后

　　再进行访问数据库处理。可以在应用服务器和数据库服务器中间增加中间层dAL，dAL采用缓冲队列和连接池设计。

　　dAL设计缓冲队列，存储等待的请求，并且dAL中设计数据库连接池，当数据库连接池中有空闲连接，

　　那么从缓冲队列中取出一个请求处理，以此类推。这种做法有效的降低了服务器的压力，但是没有提高处理速度，

　　仅仅保证了请求被缓存，处理效率仍受限于数据库的并发数。那么可以再增加一层缓存，将常用的数据加载如缓存，

　　有请求到来时，应用服务器先从缓存中获取数据，如果缓存中有数据，那么不需要访问数据库，如果缓存中没有，

　　在访问数据库取出数据，并更新缓存。

　　缓存如何同步？

　　有两种手段：

　　第一种方法： 缓存是具有时效的，在一定时间过后会超时timeout，如果缓存失效，那么重新去数据库查询，

　　查询后更新缓存，这种方法不是实时的，实时性比较差。

　　第二种方法：当有请求修改数据时，更新缓存，并且将要修改的数据投入dAL层，当数据库有空闲连接时，再持久化

　　存盘。

　　缓存的不足之处：

　　当缓存足够多时，需要将不活跃缓存数据换出内存，叫做缓存换页。缓存换出算法和操作系统换页算法类似，FiFo，LRU（least recently used），

　　LFU（least frequently used）等。实际缓存的实现不需要自己去实现，有很多开源技术，nosql技术就是非关系型数据库的意思。

　　非关系型数据库如redis，memcatched等。缓存可以跟应用服务器部署在同一台机器上，也可以部署在单独机器上。我推荐将缓存服务器部署在

　　单独机器上，假设有两台应用服务器，如果将缓存部署在不同的应用服务器上，那么不同的应用服务器很难访问彼此的缓存，非常不方便。将缓存

　　部署在单独服务器上，各个应用服务器都能访问该缓存服务器。

　　如果有大量的业务请求到来，虽然设计了多个应用服务器，也架设了缓存服务器，完善了中间层的缓冲队列和数据库连接池，

　　但是数据库服务器仍然会出现瓶颈。比如当有大量复杂的写操作数据库，很多读数据库的操作就被阻塞了，为解决这个问题可

　　将数据库实现读写分离。由于数据库读操作会比写操作多，那么可以对数据库执行负载均衡。主流数据库都有replication机制，

　　采用replication机制可以实现负载均衡。中间层的写数据库操作投递到master数据库中，读操作从slave数据库中读取，

　　当master数据库中数据被修改后，数据库采用replication机制将数据同步给slave服务器。

　　同样的道理，应用服务器也可以实现负载均衡，架设多个应用服务器，不同的请求分配给不同的应用服务器。

　　可单独设计一个任务服务器监控各个应用服务器的负载情况，合理的分配任务给各个应用服务器。这种方式

　　是任务服务器主动地分配任务给应用服务器，应用服务器被动的接受任务，这种方式在任务请求类型相近的

　　情况下，分配方式非常合理。但是假设应用服务器A接受了3个任务，应用服务器b接受了5个任务，按照负载均衡的

　　权重法或最小连接法，肯定会分配给A任务，但是如果这3个任务都是复杂的写操作，而b的5个任务都是简单的

　　读操作，那么这就存在分配的不合理性，如何解决这个问题呢？

　　可以换一种思路去解决这个问题，让应用服务器主动去请求任务服务器，主动获取任务处理，如果应用服务器处于忙碌状态就不需要

　　请求新的任务，空闲的应用服务器会去请求任务服务器中的任务，这是最合理的负载均衡。如^{<弹性扩容服务器>}果所有应用服务器都处于忙碌状态，

　　那么任务服务器将任务缓存至自己的任务队列，当应用服务器空闲时会来取任务。

　　考虑这样一个问题，如果任务服务器出现故障怎么办？

　　任务服务器需要有多台，并且实现failover机制，多台任务服务器之间实现心跳，如果检测不到对方心跳，则使自己成为主任务服务器。

　　到目前为止，这个框架可以适用于大部分服务器逻辑。为保证数据库的响应速度和处理效率，可以对数据库进行分区。

　　数据库分区有两种形式(分库、分表)

　　分库：数据库可以按照一定的逻辑把表分散到^{<香港YINGSOO>}不同的数据库。这叫做垂直分区，就是所每个库的表不同，功能不同。

　　这样做不常见，因为很大情况下，数据库中各个表是关联的，如果将不同的表分配到不同的数据库中，会存在很多不便。

　　分表：将一个表的不同数据分配到各个数据库，这样每个数据库的表结构是一样的，只是存储的用户数据不同而已，叫做水平

　　分区。分表的方式很常见，如果数据库的压力增加，我们就采取分表的方式减少数据库的压力。

　　另外服务器开发的几个性能杀手：

数据拷贝，数据从内核态copy到用户态，或者在用户态之间copy会造成性能损失，尽量采用缓存的方式解决。 环境切换 ，多线程上下文切换造成开销。如果服务器是单核的，那么采用状态机方式单线程效果最佳。如果是多核的， 合理采用多线程，可以提升性能。 内存分配，可以采用内存池，提前分配。 锁竞争，加锁解锁会造成一定的效率衰减。

　　到此为止，服务器框架介绍完毕。

　　本公司在全球超过120个国家部署数据中心,提供海外全球多个国家服务器租用,所有服务器均可根据需求配置大带宽大流量,美国g口独享大带宽服务器,从此告别网络拥堵。详询本公司客服电话400-630-3752。

　　购买和租用美国服务器要当心的最佳选择

　　1、正规的IDC服务商

　　一家好的美国IDC首先必须要是一家正规的IDC。用户在选择IDC的时候可以让IDC供应商提供IDC、ISP等相关信息，用户可以通过这些信息查询到该美国IDC供应商是否具备相应的资格。用户还可以了解一下该IDC是否提供7*24小时服务，一般正规的IDC都会提供。

　　2、选择知名机房

　　在租用美国服务器时，用户通常都会考虑到机房或数据中心的情况，因为美国机房的地理位置以及机房的管理等对美国服务器的速度和稳定性都有很大的影响。美国各地机房大小不一，质量也是参差不齐，所以我们应该尽量选择品牌影响力较大的知名机房。

　　3、美国服务器测试和试用

　　一家好的美国服务器供应商会为用户提供服务器测试和试用服务。用户在测试的时候主要要了解美国服务器的速度与稳定性，如果速度和稳定性都没有问题则可以正式租用这台美国服务器。IDC供应商一般会提供24小时的测试时间，因此用户在测试美国服务器的时候要有针对性地进行测试。

　　4、美国服务器的配置选择

　　租用美国服务器之前，应该对自己的业务网站规模以及定位做个全面的了解。这样方便选择相应配置的美国服务器，配置主要包括CPU、内存、硬盘、流量、带宽、独立IP数量等。

　　5、美国服务器的安全性

　　现在互联网攻击频繁，已^{<数据中心>}经对数据的安全构成严重威胁。数据对于任何一个企业和个人来说都非常重要，所以，租用美国服务器一定要确保网站数据的安全、完整。

　　6、美国服务器租用价格

　　在租用美国服务器时，很多人都会关心租用价格，这也是合理之中的事。但是，一味追求低价美国服务器也是不可取的，要记得一分钱一分货，什么样的价格租用到什么品质的美国服务器。低价格租用到高性能的美国服务器，这个基本上是不可能的。

　　7、重视售后服务

　　很多朋友以为买过美国服务器就完事，往往都忽略售后技术服务，这点也务必要重视。由于美国服务器租用是一个长期消费的过程，在使用、运行美国服务器的过程中往往会遇到各种问题，而很多问题都是需要IDC商协助解决的。

　　YINGSOO电话：400-630-3752

　　热门文章：【香港服务器租用】【服务器】【服务器响应速度】【主机托管】【虚拟主机】【美国服务器访问速度】【台湾服务器】【服务器】【免费服务器】【优质网站服务器】【国外服务器哪家好】【带宽租用】【香港虚拟空间cdn】【什么是刀片服务器】【香港服务器】【菲律宾服务器租用】【香港服务器】【480g美国服务器租用】【美国服务器】【香港服务器】

　　YINGSOO日本稳定服务器_低至148元/月_注册领代金券

　　稳定,性价比超高,按需配置购买,满足不同需求,日本稳定服务器免备案,高级DDOS防护,专业数据灾备方案,24小时贴心服务日本稳定服务器.

　　https://www.yingsoo.com/products/cloud-jp.html

　　YINGSOO国外cn2gia服务器优惠中!注册有礼,免费试用!

　　YINGSOO,专业国外cn2gia服务器服务商,超过1200家企业共同选择,五星机房品质,带控制台.国外cn2gia服务器3天免费试用,高级别DDOS安全防护,专业数据灾备方案,24小时贴心服务

　　https://www.yingsoo.com/products/dedicated-us.html

版权声明：本站文章来源标注为YINGSOO的内容版权均为本站所有，欢迎引用、转载，请保持原文完整并注明来源及原文链接。禁止复制或仿造本网站，禁止在非www.yingsoo.com所属的服务器上建立镜像，否则将依法追究法律责任。本站部分内容来源于网友推荐、互联网收集整理而来，仅供学习参考，不代表本站立场，如有内容涉嫌侵权，请联系alex-e#qq.com处理。