Skip to content

每秒1000并发的商品列表抢购如何设置jvm?

国内大型购物网站的日常的QPS是多少? --1000

QPS=1000大概需要多少内存?

像聚划算这种商品列表,按页请求一页10条,故每次的response=10条;现在要先估算,每条大约多少字节?

java
private String title; //50个汉字约100字节
private double price; //8个字节
private String picURL;  //url约100个字母,约100个字节
private String productURL;  // 等等其他字段……
  • 假设每件商品最多10个字段,平均每个字段100字节,大约1KB的数据;那每次访问一页大约是10*1KB= 10KB
  • 请问1000QPS大约需要多少内存?1000QPS= 1000 * 10KB= 10M,也就是说,每秒大约需要10M的数据。

QPS=1000多久触发一次YGC?

回顾-什么时候触发YoungGC?就是年轻代内存不足的时候(Eden和From区不够)触发。

多久触发一次ygc是由堆内存决定的,堆内存够的话时间就长点,堆内存不够的话就短点。

假设我们按1分钟1次触发一次ygc,大约需要配置多少内存? 1s=10m,1min=60 * 10m=600m;按照young : old= 1:2 =600 : 1200;需要1800M才会1分钟触发1次ygc,故我们把堆大小设置为2G就能保证分钟级别的GC次数。

部署多少台机器合适?

像这个案例,部署多少台没太多要求,因为单台已经能支撑1000QPS了。但为了防止单点故障,提升高可用,一般部署2台。每台承接500qps。

当你的系统并发量,突然猛增100倍,该如何解决?

先来思考一个问题,系统最大并发是多少,每秒最大能处理多少个请求?

  • 单次处理时间=50ms,那单条线程1s内能处理请求数=1000/50=20次,有多少条线程呢?
  • 例如: SpringCloud、SpringBoot有多少条线程在处理请求?
    • SpringCloud底层是SpringBoot, SpringBoot底层是tomcat,tomcat底层的线程池,最大的线程数默认是200线程
  • 一个微服务,200条线程,每条线程的QPS=20,那整体就是200*20=4000,4000并发是最大值,也就是服务每秒最大能支撑4000个并发。
  • 能不能优化?能不能再高点? ---基本不可能了,一般优化不了了,tomcat200个线程,够大了

4000并发JVM的运行状况如何?

每次请求约10KB,每秒4000并发4000 * 10KB=40M

年轻代600M/40M= 15s,即约15s会触发ygc,问题也不大,故堆2G也能支撑4000QPS。

流量突增100倍并发如何支撑

日常请求时1000QPS,突增100倍=10万QPS,单台理论最大值是4000QPS,10万/4000-25倍,即25台,即最少增加25台服务器支撑100倍并发。

如果是CPU密集型计算(该接口大部分是CPU计算而不是IO或网络操作)的,增加的台数绝对大于25台,可能是50台或更高,这个要根据压测来判断。

没有那么多机器怎么办?

例如淘宝再双11单天,就把不重要的服务停掉,例如退货退款、积分服务、评价系统等等,空余出来的服务器跑重要的微服务