压力测试：必须了解的限流策略

lsekfe

最近有空了解了下Nginx的限流策略，查了一些网上的资料，发现很多对参数的描述并不准确，所以自己抽空做了些[url=]测试[/url]，分享下心得。
　　1、配置限流策略

1. http {
   
2. 
   
3. 　　    #Nginx限流。语法：limit_req_zone  key  zone  rate      
   
4. 
   
5. 　　    #参数说明 key: 定义需要限流的对象（$binary_remote_addr表示基于客户端ip(remote_addr)进行限流，binary_表示压缩内存占用量）  
   
6. 
   
7. 　　    #参数说明 zone: 定义共享内存区来存储访问信息（定义了一个大小为10M的内存区，用于存储IP地址访问信息。）
   
8. 
   
9. 　　    #参数说明 rate: 用于设置每个IP的最大访问速率（rate=5r/s表示每秒处理5个请求，rate=30r/m表示每分钟处理30个，即每2秒1个。）
   
10. 
    
11. 　　    limit_req_zone $binary_remote_addr zone=myLimitS2:10m rate=2r/s; #内存区名为myLimitS2，每秒处理2个请求
    
12. 
    
13. 　　    limit_req_zone $binary_remote_addr zone=myLimitS10:10m rate=10r/s; #内存区名为myLimitS10，每秒处理10个请求
    
14. 
    
15. 　　    limit_req_zone $binary_remote_addr zone=myLimitS20:10m rate=20r/s; #内存区名为myLimitS20，每秒处理20个请求
    
16. 
    
17. 　　    limit_req_zone $binary_remote_addr zone=myLimitS30:10m rate=30r/s; #内存区名为myLimitS30，每秒处理30个请求
    
18. 
    
19. 　　    limit_req_zone $binary_remote_addr zone=myLimitS40:10m rate=40r/s; #内存区名为myLimitS40，每秒处理40个请求
    
20. 
    
21. 　　    limit_req_zone $binary_remote_addr zone=myLimitS50:10m rate=50r/s; #内存区名为myLimitS50，每秒处理50个请求
    
22. 
    
23. 　　}

复制代码

　2、应用限流策略
2.1、延时

1. server {
   
2. 
   
3. 　　    location / {
   
4. 
   
5. 　　        limit_req zone=myLimitS2 burst=25;
   
6. 
   
7. 　　        #设置漏桶并发容量burst=25，瞬间处理能力qps=rate=2，并发请求数<=25时都会按rate被排队处理；漏桶容量会以rate设置的速度释放(需要burst/qps=25/2=12.5秒)；新请求会依次进入漏桶占用释放的容量并排队；超过漏桶容量的会直接返回limit_req_status
   
8. 
   
9. 　　　　　　 #limit_req_status 503; #自定义返回状态
   
10. 
    
11. 　　　　}
    
12. 
    
13. 　　}

复制代码

2.2、不延时

1. server{
   
2. 
   
3. 　　    location / {
   
4. 
   
5. 　　        limit_req zone=myLimitS2 burst=40 nodelay;        
   
6. 
   
7. 　　        #设置漏桶并发容量burst=25，瞬间处理能力qps=rate=2，并发请求数<=25时都会按rate被排队处理；漏桶容量会以rate设置的速度释放(需要burst/qps=25/2=12.5秒)；新请求会依次进入漏桶占用释放的容量并排队；超过漏桶容量的会直接返回limit_req_status
   
8. 
   
9. 　　        #limit_req_status 503; #自定义返回状态
   
10. 
    
11. 　　    }   
    
12. 
    
13. 　　}

复制代码

注意：设定的burst与实际测量出来的burst可能有±5左右的偏差，可以忽略。　
　　3、[url=]Python[/url][url=]压力测试[/url]代码（本人python菜鸡，借鉴的忘了哪位大神的代码，感谢）

1. import datetime
   
2. 
   
3. 　　import json
   
4. 
   
5. 　　import requests
   
6. 
   
7. 　　import logging
   
8. 
   
9. 　　import threading
   
10. 
    
11. 　　import time
    
12. 
    
13. 　　import sys
    
14. 
    
15. 　　from time import sleep, ctime
    
16. 
    
17. 　　logging.basicConfig(
    
18. 
    
19. 　　    level=logging.INFO,
    
20. 
    
21. 　　    format='%(asctime)s - %(name)s - %(levelname)s - %(message)s')
    
22. 
    
23. 　　logger = logging.getLogger(__name__)
    
24. 
    
25. 　　reponse_time = []
    
26. 
    
27. 　　OK = []
    
28. 
    
29. 　　errorCount = []
    
30. 
    
31. 　　class runScript():
    
32. 
    
33. 　　    def API(self, url, params):
    
34. 
    
35. 　　        try:
    
36. 
    
37. 　　            r = requests.get(url, params=params, timeout=10)
    
38. 
    
39. 　　            #print(r.status_code)
    
40. 
    
41. 　　            code = r.status_code
    
42. 
    
43. 　　            if code != 200:
    
44. 
    
45. 　　                print(code)
    
46. 
    
47. 　　                errorCount.append[1]
    
48. 
    
49. 　　            else:
    
50. 
    
51. 　　                js = json.dumps(r.json())
    
52. 
    
53. 　　                #print(r.json()) #json格式的响应数据
    
54. 
    
55. 　　                # print(r.elapsed.total_seconds())　响应时间
    
56. 
    
57. 　　                #print("ooo" + js) #没有解码的响应数据
    
58. 
    
59. 　　                return [r.json(), r.elapsed.total_seconds(), js]
    
60. 
    
61. 　　            #r.raise_for_status()  # 如果响应状态码不是 200，就主动抛出异常
    
62. 
    
63. 　　        except requests.RequestException as e:
    
64. 
    
65. 　　            print('failed.' + e)
    
66. 
    
67. 　　            errorCount.append[1]
    
68. 
    
69. 　　    def circulation(self, url, params):
    
70. 
    
71. 　　        status = 0
    
72. 
    
73. 　　        datas = "none."
    
74. 
    
75. 　　        try:
    
76. 
    
77. 　　            obj = self.API(url, params)
    
78. 
    
79. 　　            if obj != None:
    
80. 
    
81. 　　                #print(obj)
    
82. 
    
83. 　　                reponse_time.append(obj[1])
    
84. 
    
85. 　　                datas = json.loads(obj[2])["Msg"]
    
86. 
    
87. 　　                status = json.loads(obj[2])["Code"]
    
88. 
    
89. 　　                OK.append(datas)
    
90. 
    
91. 　　        except Exception as e:
    
92. 
    
93. 　　            return
    
94. 
    
95. 　　def test(url, params):
    
96. 
    
97. 　　    Restime = runScript()
    
98. 
    
99. 　　    Restime.circulation(url, params)
    
100. 
     
101. 　　def main(num, url, params):
     
102. 
     
103. 　　    print("↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓")
     
104. 
     
105. 　　    start_time = datetime.datetime.now().strftime('%Y-%m-%d %H:%M:%S %f')
     
106. 
     
107. 　　    threads = []
     
108. 
     
109. 　　    for i in range(num):
     
110. 
     
111. 　　        t = threading.Thread(target=test, args=(url, params))
     
112. 
     
113. 　　        threads.append(t)
     
114. 
     
115. 　　    for t in range(num):
     
116. 
     
117. 　　        threads[t].start()
     
118. 
     
119. 　　        #time.sleep(0.0001)
     
120. 
     
121. 　　    for j in range(num):
     
122. 
     
123. 　　        threads[j].join()
     
124. 
     
125. 　　    print("↑↑↑↑↑↑↑↑↑↑↑↑↑↑↑↑↑↑↑↑↑")
     
126. 
     
127. 　　    print("Starting at:", start_time)
     
128. 
     
129. 　　    print("All done at:", datetime.datetime.now().strftime('%Y-%m-%d %H:%M:%S %f'))
     
130. 
     
131. 　　    # print(OK)
     
132. 
     
133. 　　    print('线程数：', len(threads))
     
134. 
     
135. 　　    print('响应次数：', len(reponse_time))
     
136. 
     
137. 　　    print('正常响应次数：', len(OK))
     
138. 
     
139. 　　    print('错误次数：', len(errorCount))
     
140. 
     
141. 　　    print('总响应最大时长：', (0 if len(reponse_time)==0 else max(reponse_time)))
     
142. 
     
143. 　　    print('总响应最小时长：', (0 if len(reponse_time)==0 else min(reponse_time)))
     
144. 
     
145. 　　    print('总响应时长：', (0 if len(reponse_time)==0 else sum(reponse_time)))
     
146. 
     
147. 　　    print('平均响应时长：', (0 if len(reponse_time)==0 else (sum(reponse_time) / len(reponse_time))))
     
148. 
     
149. 　　    # print('QPS（TPS）= 并发数/平均响应时间:',num  / (sum(reponse_time) / len(reponse_time)))
     
150. 
     
151. 　　if __name__ == '__main__':
     
152. 
     
153. 　　    num = input('输入需要开启的线程数量:')
     
154. 
     
155. 　　    url = 'http://192.168.11.35:8598/test.html'  # 地址
     
156. 
     
157. 　　    #params = {'UserName': 'admin', 'UserPwd': '123456'}  # 参数
     
158. 
     
159. 　　    main(int(num), url, params)

复制代码

python测试结果预览：

1. 输入需要开启的线程数量:50
   
2. 
   
3. 　　Starting at: 2020-09-17 11:18:33 909979
   
4. 
   
5. 　　All done at: 2020-09-17 11:18:43 978149
   
6. 
   
7. 　　线程数： 50
   
8. 
   
9. 　　响应次数： 21
   
10. 
    
11. 　　正常响应次数： 21
    
12. 
    
13. 　　错误次数： 0
    
14. 
    
15. 　　总响应最大时长： 9.978622
    
16. 
    
17. 　　总响应最小时长： 0.946371
    
18. 
    
19. 　　总响应时长： 106.58336500000001
    
20. 
    
21. 　　平均响应时长： 5.075398333333334

复制代码

Miss_love

学习了